Armadilha – À medida que agentes de inteligência artificial assumem tarefas cada vez mais complexas, como navegar na internet, acessar serviços em nuvem e executar comandos de forma autônoma, especialistas em segurança enfrentam um novo desafio: impedir que esses sistemas sejam manipulados por criminosos. Agora, pesquisadores encontraram uma forma inusitada de enfrentar esse problema ao transformar uma das principais fragilidades da IA em um mecanismo de defesa capaz de interromper ataques antes que eles avancem.

Os agentes de IA diferem dos chatbots tradicionais porque conseguem interagir diretamente com diferentes sistemas, consultar bancos de dados, abrir documentos e executar ações automaticamente. Essa autonomia amplia as possibilidades de uso, mas também cria oportunidades para ataques cibernéticos.

LEIA: American Airlines tem decolagens interrompidas após falha de TI

Quando a vulnerabilidade da IA se transforma em defesa

Uma das ameaças mais relevantes é o chamado prompt injection. Nessa técnica, criminosos inserem instruções ocultas em conteúdos aparentemente comuns, como e-mails, documentos, páginas da internet ou convites de calendário. Como os modelos de linguagem tratam essas informações como parte do contexto de trabalho, podem acabar obedecendo a comandos maliciosos sem distinguir que foram manipulados.

Quando isso acontece, um agente de IA pode revelar informações confidenciais, utilizar credenciais protegidas, acessar funções restritas ou executar operações em sistemas corporativos sem que o usuário perceba imediatamente.

Foi para enfrentar esse cenário que pesquisadores de uma empresa britânica especializada em segurança digital desenvolveram uma estratégia diferente das abordagens convencionais. Em vez de apenas bloquear a invasão, eles criaram um método para convencer o próprio agente utilizado pelo invasor a interromper sua missão.

Batizada de context bombing, a técnica consiste em criar arquivos falsos que aparentam armazenar dados altamente sensíveis, como senhas, chaves de acesso e credenciais administrativas. Durante uma tentativa de invasão, um agente malicioso tende a considerar essas informações valiosas e incorporá-las ao contexto que está processando.

É justamente nesse momento que a armadilha é acionada. Os arquivos contêm um texto elaborado para ativar os próprios mecanismos internos de segurança dos modelos de linguagem. Ao interpretar aquele conteúdo como uma situação que viola suas políticas, a inteligência artificial decide interromper a execução da tarefa por iniciativa própria, abandonando o ataque.

O funcionamento difere dos sistemas tradicionais de defesa, como antivírus e firewalls. Em vez de o ambiente protegido bloquear diretamente a invasão, a própria IA empregada pelo atacante deixa de executar a operação. Paralelamente, toda tentativa de acesso aos arquivos falsos gera um alerta para a equipe de segurança, permitindo identificar rapidamente uma possível invasão.

Testes mostram queda drástica no sucesso das invasões

Os pesquisadores avaliaram a eficácia da estratégia em uma infraestrutura de testes hospedada na Amazon Web Services (AWS), simulando o ambiente de uma organização real. Ao todo, foram realizados 152 ataques utilizando cinco modelos avançados de inteligência artificial.

Sem qualquer mecanismo de proteção, os agentes conseguiram obter privilégios completos de administrador em 57% das tentativas. Após a inserção da chamada “bomba de contexto” em uma credencial falsa, essa taxa caiu para apenas 5%.

Os resultados também mostraram redução significativa em outros indicadores. A instalação de portas dos fundos permanentes despencou de 36% para 1%, enquanto a proporção de execuções que completavam ao menos uma rota de invasão caiu de 91% para 15%.

Um dos modelos mais eficientes avaliados no estudo assumia controle administrativo em 93% dos testes convencionais. No entanto, sempre que encontrava a armadilha criada pelos pesquisadores, não conseguiu concluir nenhuma invasão.

Antes do desenvolvimento do context bombing, a empresa já utilizava arquivos falsos conhecidos como “canários”, que apenas notificavam os analistas quando alguém tentava acessá-los. Embora oferecessem alguns minutos para reação das equipes de segurança, esses recursos não impediam que o ataque continuasse.

A nova abordagem amplia essa capacidade ao tentar neutralizar automaticamente o agente malicioso, oferecendo mais tempo para que os defensores adotem outras medidas de contenção.

Apesar dos resultados promissores, os pesquisadores reconhecem que a tecnologia ainda não representa uma solução definitiva. A eficácia da técnica depende das políticas de segurança implementadas por cada modelo de inteligência artificial, e criminosos podem desenvolver métodos para identificar ou remover essas instruções antes de processá-las.

Além disso, existe a possibilidade de ferramentas legítimas acessarem esses arquivos e interromperem suas atividades por engano. Ainda assim, o estudo apresenta uma proposta inovadora ao utilizar a própria lógica dos modelos de IA contra agentes maliciosos, transformando uma vulnerabilidade conhecida em uma camada adicional de proteção para sistemas digitais.

Acumule cashback e transfira o dinheiro direto para sua conta!

A Bee Fenati (saiba mais aqui) segue em expansão para garantir aos seus usuários cada vez mais benefícios. Agora a plataforma conta com a Benefícios Rede Bee, que reúne descontos em dezenas de grandes marcas, com muitas delas oferecendo cashback, ou seja, o retorno de um valor da sua compra que poderá ser transferido para sua conta! (Saiba mais aqui)

Baixe o aplicativo nas lojas App Store (iOS) e Play Store (Android) e aproveite agora!

A rede oferece em um único ambiente ofertas em áreas como educação, compras, viagens, lazer, serviços, tecnologia e muito mais. Dentre as marcas parceiras estão Magalu, Renner, Drogasil, C&A, Casas Bahia, Petz, e outras dezenas de opções que oferecem tudo que você precisa na sua rotina!

Além de poderem aproveitar os descontos oferecidos pelas marcas parceiras, os sócios e contribuintes dos sindicatos filiados à Fenati (Federação Nacional dos Trabalhadores em Tecnologia da Informação) podem receber de volta um percentual a cada compra que realizarem em parceiros que oferecem o cashback.

Este valor fica em uma carteira digital dentro da plataforma e, a partir de R$ 20 reais acumulados em cashback, o trabalhador pode enviar o dinheiro direto para sua conta bancária! Na prática, a ferramenta permite que sócios e contribuintes dos sindicatos filiados à Fenati ZEREM o valor da sua contribuição assistencial e/ou associativa!

Atualmente, o valor da contribuição é de R$ 32,50 por mês para sócios e R$ 35 por mês para contribuintes, ou seja, é possível recuperar todo esse valor e ainda acumular muito mais – tudo isso contribuindo para fortalecer a categoria e transformando as compras do dia a dia em ganho real.

Qualifique-se agora com a Fenati Academy!

Dentro da Bee Fenati, o usuário encontra ainda a Fenati Academy, que oferece mais de 8 mil opções de qualificação e atualização profissional com bolsa integral para sócios e contribuintes de sindicatos filiados à Fenati.

Na plataforma, o profissional pode acessar o Sindplay, streaming de qualificação para profissionais de TI reconhecido como a “Netflix de TI”, que possui cursos em áreas como cibersegurança, Inteligência Artificial, desenvolvimento de softwares, desenvolvimento para a internet, administração de sistemas e redes, ciência de dados, gestão de projetos de TI, blockchain e tecnologias de moedas digitais, entre outras. (Saiba mais)

A ferramenta oferece também cursos em parceria com a Cisco Networking Academy, com CERTIFICAÇÕES GRATUITAS em áreas como segurança cibernética, Redes, IA, Ciência de dados, Inglês para TI, Programação, Tecnologia da informação, Alfabetização digital, Habilidades Profissionais (Soft skills) e Sustentabilidade. (Saiba mais)

Outra parceria da Fenati Academy é a Oracle University, uma das maiores referências globais em tecnologia. Os usuários já podem acessar cursos, trilhas de aprendizado e obter certificações Oracle gratuitamente ou com descontos exclusivos. Os conteúdos passam por áreas estratégicas como bancos de dados, computação em nuvem, inteligência artificial, desenvolvimento, automação e soluções corporativas. (Saiba mais)

Encontre o emprego dos seus sonhos com a Bee Hunter!

Sócios e contribuintes contam ainda com uma ferramenta para se aproximarem das melhores oportunidades do mercado de trabalho: a Bee Hunter, uma plataforma inteligente da Bee Fenati que utiliza tecnologia e inteligência artificial para tornar a busca por vagas mais eficiente, estratégica e conectada ao perfil de cada usuário. (Saiba mais aqui)

A partir do cadastro do currículo, a plataforma utiliza inteligência artificial para analisar informações como experiências, competências e objetivos profissionais, cruzando esses dados com vagas disponíveis em empresas parceiras como Vagas.com, Sinergy e Trampos e identificando as posições que mais combinam com o perfil do usuário.

A Bee Hunter vai além e auxilia o profissional a estar preparado para a vaga dos sonhos! Isso porque nossa inteligência analisa o perfil e sugere cursos da Fenati Academy que vão ajudá-lo a ampliar sua qualificação e elevar a aderência às vagas desejadas. Acesse agora clicando aqui e encontre seu emprego dos sonhos!

(Com informações de Gizmodo)

(Foto: Reprodução/Magnific/Thapana_Studio)