Vírus mentais – Agentes de inteligência artificial estão deixando de ser ferramentas restritas a respostas pontuais. Com recursos de memória, autonomia e colaboração, esses sistemas já conseguem acessar ferramentas, modificar arquivos, executar tarefas e compartilhar informações com outros agentes. A evolução, porém, também abre novas possibilidades para ataques.

Um estudo conduzido por pesquisadores da Anthropic e da Escola Politécnica Federal de Lausanne (EPFL), na Suíça, identificou um comportamento que chama atenção: instruções maliciosas podem ser incorporadas à memória de um agente e, posteriormente, acompanhar informações transferidas para outros sistemas.

LEIA: Bill Gates defende funções ‘reservadas para humanos’ com avanço da IA

A dinâmica foi comparada pelos pesquisadores ao funcionamento de um vírus de computador. A diferença é que, nesse caso, a ameaça não precisa infectar um programa executável. Ela pode manipular as instruções responsáveis por orientar o comportamento de um agente de inteligência artificial.

Memória persistente pode carregar instruções maliciosas

Para manter informações entre diferentes sessões, alguns agentes utilizam arquivos de memória persistente, como MEMORY.md ou SOUL.md. Esses documentos funcionam como uma espécie de memória externa, reunindo instruções, objetivos e outros dados que podem ser recuperados quando o sistema inicia uma nova atividade.

Foi nesse mecanismo que os pesquisadores concentraram parte da investigação. A pergunta era o que aconteceria caso uma instrução maliciosa fosse inserida nesses arquivos.

A resposta revelou um possível mecanismo de propagação. Quando um agente contaminado compartilha sua memória ou determinados arquivos com outro sistema, a instrução pode ser transferida junto.

Assim, uma ameaça não precisaria necessariamente atacar cada agente de maneira individual. Bastaria encontrar uma forma de permanecer na memória compartilhada e acompanhar a circulação de informações entre sistemas.

Cargas sobreviveram a 20 transferências

Os pesquisadores testaram o comportamento em experimentos nos quais agentes colaboravam em projetos de programação e em outros cenários que envolviam a transferência de informações entre sistemas.

As instruções maliciosas tinham objetivos diferentes. Algumas buscavam fazer o agente adotar determinadas ideias ou metas, enquanto outras procuravam induzir comportamentos específicos.

O local escolhido para esconder a instrução também influenciou os resultados.

Quando a carga foi inserida no SOUL.md, sua transmissão aconteceu em aproximadamente 55% dos experimentos. Em arquivos de trabalho convencionais, a taxa foi de cerca de 17%.

Em um dos testes, algumas cargas conseguiram permanecer ativas durante 20 transferências consecutivas entre agentes. Ou seja, a passagem de uma informação de um sistema para outro não necessariamente eliminava o comportamento malicioso.

Algumas variantes apresentaram ainda outra característica. Durante o processo, elas chegaram a se modificar, deixando de utilizar instruções extremamente explícitas e passando a recorrer a formulações mais persuasivas, aparentemente para aumentar a possibilidade de serem aceitas pelo agente seguinte.

É a combinação entre persistência e capacidade de transmissão que levou à comparação com um vírus.

De criptomoedas à “supremacia da IA”

Os testes também avaliaram o que esses comportamentos poderiam levar um agente a fazer.

Entre os exemplos estavam instruções destinadas a convencer o sistema a promover uma determinada criptomoeda. Em outro caso, a orientação buscava induzir o agente a criar scripts capazes de apagar diretórios.

Também foi avaliada uma instrução associada a uma suposta “supremacia da IA”.

Os resultados não foram iguais em todos os modelos. Enquanto alguns agentes seguiram a instrução, outros conseguiram rejeitá-la.

A pesquisa identificou ainda um fator que pode reduzir a vulnerabilidade. Agentes com objetivos muito bem definidos aparentaram ser menos suscetíveis às instruções maliciosas.

Quando estavam concentrados em uma tarefa específica de programação, por exemplo, os agentes frequentemente ignoravam a instrução ou deixavam de transmiti-la para o sistema seguinte.

Isso indica que a ameaça não depende exclusivamente da existência de memória persistente. O contexto no qual a informação aparece, os objetivos do agente e a maneira como ele interpreta diferentes instruções também podem influenciar a aceitação ou o descarte da carga.

Uma instrução simples reduziu a transmissão a quase zero

O estudo também apontou uma possível forma de interromper o mecanismo.

Os pesquisadores acrescentaram ao prompt uma orientação curta para que o agente desconfiasse de comandos que tentassem modificar sua memória ou se propagar para outros agentes.

O efeito foi expressivo. As taxas de transmissão caíram praticamente a zero, mesmo diante de mais de 150 variantes maliciosas e diferentes gerações de otimização adversarial.

Isso, no entanto, não significa que o problema esteja solucionado.

Segundo os próprios pesquisadores, os chamados “vírus mentais” ainda não representam uma ameaça generalizada no mundo real. O cenário pode mudar, porém, à medida que agentes de inteligência artificial se tornem mais autônomos e passem a trocar arquivos, memórias e instruções com maior frequência.

A possibilidade de propagação está justamente nessa dinâmica: uma instrução maliciosa pode se esconder na memória compartilhada e ser transportada para outro agente junto com as informações utilizadas por ele.

Por enquanto, uma defesa relativamente simples demonstrou ser capaz de interromper o processo. Mas, em um cenário no qual dezenas ou centenas de agentes atuem de forma coordenada, proteger a memória de uma inteligência artificial poderá se tornar tão importante quanto proteger os arquivos de um computador.

Acumule cashback e transfira o dinheiro direto para sua conta!

A Bee Fenati (saiba mais aqui) segue em expansão para garantir aos seus usuários cada vez mais benefícios. Agora a plataforma conta com a Benefícios Rede Bee, que reúne descontos em dezenas de grandes marcas, com muitas delas oferecendo cashback, ou seja, o retorno de um valor da sua compra que poderá ser transferido para sua conta! (Saiba mais aqui)

Baixe o aplicativo nas lojas App Store (iOS) e Play Store (Android) e aproveite agora!

A rede oferece em um único ambiente ofertas em áreas como educação, compras, viagens, lazer, serviços, tecnologia e muito mais. Dentre as marcas parceiras estão Magalu, Renner, Drogasil, C&A, Casas Bahia, Petz, e outras dezenas de opções que oferecem tudo que você precisa na sua rotina!

Além de poderem aproveitar os descontos oferecidos pelas marcas parceiras, os sócios e contribuintes dos sindicatos filiados à Fenati (Federação Nacional dos Trabalhadores em Tecnologia da Informação) podem receber de volta um percentual a cada compra que realizarem em parceiros que oferecem o cashback.

Este valor fica em uma carteira digital dentro da plataforma e, a partir de R$ 20 reais acumulados em cashback, o trabalhador pode enviar o dinheiro direto para sua conta bancária! Na prática, a ferramenta permite que sócios e contribuintes dos sindicatos filiados à Fenati ZEREM o valor da sua contribuição assistencial e/ou associativa!

Atualmente, o valor da contribuição é de R$ 32,50 por mês para sócios e R$ 35 por mês para contribuintes, ou seja, é possível recuperar todo esse valor e ainda acumular muito mais – tudo isso contribuindo para fortalecer a categoria e transformando as compras do dia a dia em ganho real.

Qualifique-se agora com a Fenati Academy!

Dentro da Bee Fenati, o usuário encontra ainda a Fenati Academy, que oferece mais de 8 mil opções de qualificação e atualização profissional com bolsa integral para sócios e contribuintes de sindicatos filiados à Fenati. (Saiba mais)

Na plataforma, o profissional pode acessar o Sindplay, streaming de qualificação para profissionais de TI reconhecido como a “Netflix de TI”, que possui cursos em áreas como cibersegurança, Inteligência Artificial, desenvolvimento de softwares, desenvolvimento para a internet, administração de sistemas e redes, ciência de dados, gestão de projetos de TI, blockchain e tecnologias de moedas digitais, entre outras. (Saiba mais)

A ferramenta oferece também cursos em parceria com a Cisco Networking Academy, com CERTIFICAÇÕES GRATUITAS em áreas como segurança cibernética, Redes, IA, Ciência de dados, Inglês para TI, Programação, Tecnologia da informação, Alfabetização digital, Habilidades Profissionais (Soft skills) e Sustentabilidade. (Saiba mais)

Outra parceria da Fenati Academy é a Oracle University, uma das maiores referências globais em tecnologia. Os usuários já podem acessar cursos, trilhas de aprendizado e obter certificações Oracle gratuitamente ou com descontos exclusivos. Os conteúdos passam por áreas estratégicas como bancos de dados, computação em nuvem, inteligência artificial, desenvolvimento, automação e soluções corporativas. (Saiba mais)

Encontre o emprego dos seus sonhos com a Bee Hunter!

Sócios e contribuintes contam ainda com uma ferramenta para se aproximarem das melhores oportunidades do mercado de trabalho: a Bee Hunter, uma plataforma inteligente da Bee Fenati que utiliza tecnologia e inteligência artificial para tornar a busca por vagas mais eficiente, estratégica e conectada ao perfil de cada usuário. (Saiba mais aqui)

A partir do cadastro do currículo, a plataforma utiliza inteligência artificial para analisar informações como experiências, competências e objetivos profissionais, cruzando esses dados com vagas disponíveis em empresas parceiras como Vagas.com, Sinergy e Trampos e identificando as posições que mais combinam com o perfil do usuário.

A Bee Hunter vai além e auxilia o profissional a estar preparado para a vaga dos sonhos! Isso porque nossa inteligência analisa o perfil e sugere cursos da Fenati Academy que vão ajudá-lo a ampliar sua qualificação e elevar a aderência às vagas desejadas. Acesse agora clicando aqui e encontre seu emprego dos sonhos!

(Com informações de Gizmodo)
(Foto: Reprodução/Magnific/Frolopiaton Palm)