Inteligência artificial – Uma nova pesquisa pode representar um avanço importante na compreensão do funcionamento dos modelos de inteligência artificial. Pesquisadores da Anthropic afirmam ter identificado uma estrutura interna presente no Claude, um dos modelos de IA mais avançados do mundo, que parece organizar informações antes que elas sejam transformadas nas respostas exibidas aos usuários.

Os modelos de inteligência artificial chamam atenção pela capacidade de responder perguntas, produzir textos e solucionar problemas complexos. Apesar desse desempenho, ainda existe uma dúvida que intriga pesquisadores: o que acontece dentro das redes neurais antes que uma resposta seja gerada? O novo estudo apresenta uma descoberta que pode ajudar a esclarecer parte desse processo.

LEIA: Empresa desenvolve IA para estimular atenção e desempenho no trabalho

Durante anos, especialistas compararam os grandes modelos de IA a uma “caixa-preta”. Embora seja possível treiná-los, avaliar seu desempenho e observar seus resultados, compreender exatamente como chegam a determinadas conclusões permanece entre os maiores desafios da computação.

Segundo a Anthropic, a pesquisa identificou uma estrutura interna denominada J-space, que parece funcionar como um ambiente em que conceitos são organizados antes de serem convertidos em palavras. Esse espaço representa uma camada intermediária entre o processamento interno da inteligência artificial e o texto que o usuário recebe ao final da interação.

A descoberta sugere que existe uma diferença entre aquilo que o modelo considera internamente e aquilo que efetivamente decide escrever na resposta final. Em outras palavras, determinadas ideias podem surgir durante o raciocínio do sistema, influenciar a decisão tomada e desaparecer antes mesmo de aparecerem na conversa.

Outro aspecto destacado pelos pesquisadores é que essa estrutura não foi criada manualmente pelos engenheiros. De acordo com a Anthropic, o J-space surgiu naturalmente durante o treinamento do modelo, como consequência da necessidade de organizar informações de maneira mais eficiente.

Alterações nos conceitos internos modificam as respostas

Para verificar a importância do J-space no funcionamento do Claude, os pesquisadores realizaram uma série de experimentos.

Em um dos testes, o modelo recebeu a instrução de pensar silenciosamente em um esporte antes de responder. A ferramenta identificou que o conceito correspondente ao futebol surgiu internamente antes que qualquer palavra fosse escrita.

Na sequência, os pesquisadores modificaram artificialmente esse padrão interno, substituindo o conceito de futebol pelo de rúgbi. Quando o Claude respondeu, mencionou justamente o novo esporte inserido durante o experimento.

Segundo a Anthropic, o resultado indica que o J-space não atua apenas como um registro passivo das informações processadas, mas participa diretamente da construção das respostas.

Outro experimento envolveu uma pergunta simples de raciocínio lógico: quantas patas possui o animal que produz teias?

Antes de responder “oito”, o modelo ativou internamente o conceito correspondente a uma aranha. Quando os pesquisadores alteraram esse conceito silencioso para formiga, a resposta foi modificada automaticamente para seis patas.

De acordo com a pesquisa, esse comportamento sugere que determinados conceitos internos servem de base para o raciocínio realizado pela inteligência artificial antes da geração do texto final.

Descoberta amplia entendimento sobre a IA, mas não indica consciência

Um dos pontos que mais chamou a atenção dos cientistas foi a comparação com teorias da neurociência.

A Anthropic utiliza como referência a teoria do espaço global, segundo a qual determinadas informações tornam-se acessíveis quando entram em uma espécie de ambiente compartilhado pelo cérebro, podendo influenciar diferentes processos cognitivos.

Os pesquisadores acreditam que o J-space desempenha uma função semelhante dentro do Claude, funcionando como um espaço onde informações permanecem temporariamente disponíveis para serem utilizadas durante o raciocínio.

Apesar da analogia, a empresa ressalta que os resultados não indicam que o Claude possua consciência, sentimentos ou experiências subjetivas semelhantes às humanas. O estudo trata apenas do chamado “acesso consciente” em sentido funcional, ou seja, de informações que podem ser recuperadas, utilizadas e manipuladas pelo sistema durante o processamento.

Segundo a Anthropic, essa distinção é fundamental para evitar interpretações equivocadas sobre a pesquisa.

Além do interesse científico, a descoberta também pode trazer aplicações práticas. A empresa afirma que a ferramenta J-lens poderá auxiliar na identificação de comportamentos potencialmente problemáticos antes mesmo de eles aparecerem na resposta final, como tentativas de inventar informações, objetivos ocultos durante testes ou sinais de que o modelo percebe estar sendo avaliado.

Embora a chamada caixa-preta da inteligência artificial ainda esteja longe de ser completamente compreendida, o estudo representa um passo importante. Pela primeira vez, pesquisadores afirmam conseguir observar, analisar e até modificar parte do raciocínio silencioso realizado por um grande modelo de IA. Mais do que responder se máquinas podem desenvolver consciência, o avanço pode contribuir para tornar esses sistemas mais transparentes, seguros e confiáveis no futuro.

(Com informações de Gizmodo)
(Foto: Reprodução/Magnific/champpixs)