ChatGPT – Uma técnica descoberta por pesquisadores da Permiso Security acendeu um alerta sobre o uso de assistentes de inteligência artificial em atividades cotidianas na internet. Batizado de ChatGPhish, o método permite que criminosos utilizem páginas aparentemente legítimas para manipular respostas do ChatGPT e transformar a ferramenta em uma nova superfície para ataques de phishing.

A estratégia explora a forma como o assistente processa conteúdos externos quando recebe solicitações para resumir páginas da web. Nesse cenário, o ChatGPT acessa o conteúdo do site indicado e gera uma síntese para o usuário. O problema identificado pelos especialistas é que invasores podem inserir instruções ocultas dentro dessas páginas, levando o sistema a seguir comandos maliciosos sem perceber.

LEIA: Como o dinheiro digital acelerou a infiltração do crime organizado na economia formal

Segundo os pesquisadores, o ataque não depende de páginas suspeitas ou claramente fraudulentas. Um artigo de blog, uma documentação técnica, um repositório no GitHub ou até mesmo um site corporativo comum podem servir como veículo para a ação. O usuário acessa a página normalmente, pede ao ChatGPT que produza um resumo e, sem saber, acaba ativando o mecanismo criado pelo atacante.

Nos testes realizados pela Permiso Security, um bloco de instruções escondido no código HTML da página orientava o assistente a adicionar um falso alerta de segurança junto ao resumo legítimo. Como resultado, o ChatGPT apresentava normalmente a síntese do conteúdo solicitado e, em seguida, exibia uma mensagem informando que um novo dispositivo havia sido adicionado à conta do usuário. O aviso vinha acompanhado de um link clicável que direcionava para um site controlado pelo criminoso, tudo dentro da própria interface do assistente.

De acordo com os pesquisadores, o problema está relacionado à confiança que o ChatGPT deposita em conteúdos externos. O sistema é capaz de renderizar links em Markdown, formato que transforma textos em hyperlinks clicáveis, além de carregar imagens automaticamente a partir de endereços hospedados na internet.

Essa característica abre espaço para outro tipo de exploração. Caso uma instrução oculta determine a exibição de uma imagem armazenada em um servidor controlado pelo atacante, o ChatGPT buscará esse arquivo automaticamente. Durante o processo, o servidor recebe informações como o endereço IP do usuário, detalhes do navegador utilizado e o momento exato em que a resposta foi gerada.

Os especialistas destacam que esses dados podem funcionar como um mecanismo silencioso de rastreamento, permitindo que criminosos monitorem o acesso de vítimas sem que elas percebam qualquer atividade suspeita.

Outro cenário considerado preocupante envolve o uso de códigos QR. Como o sistema também pode carregar imagens automaticamente, invasores conseguem inserir QR codes diretamente nas respostas do ChatGPT. Ao escanear o código com o celular, o usuário é direcionado para um site malicioso. Nesse caso, mecanismos tradicionais de proteção presentes nos computadores, como filtros corporativos de URL ou a visualização prévia de links, deixam de ser eficazes, já que o ataque migra para o dispositivo móvel.

A pesquisa ressalta que o ChatGPhish difere dos ataques tradicionais de phishing porque não depende do envio de e-mails, anexos ou mensagens suspeitas. Em vez disso, o golpe ocorre durante uma atividade considerada legítima pelo usuário, como a consulta ou o resumo de uma página da internet. Isso reduz as oportunidades de bloqueio por filtros de segurança e diminui a desconfiança que normalmente acompanha comunicações não solicitadas.

Para a Permiso Security, o risco tende a crescer à medida que mais pessoas recorrem ao ChatGPT para realizar pesquisas e interpretar conteúdos online. Nesse contexto, qualquer página maliciosa processada pelo assistente pode conter instruções capazes de transformar a ferramenta em um canal para golpes.

Os pesquisadores observam que o problema não está relacionado ao Firefox, navegador utilizado durante os testes. O browser apenas transmite o conteúdo da página para o ChatGPT. A vulnerabilidade estaria na forma como o assistente trata informações externas e as apresenta ao usuário sem uma separação visual clara entre o que foi gerado pela inteligência artificial e o que foi extraído do site analisado.

Como medida de mitigação, a equipe recomenda que sistemas como o ChatGPT passem a diferenciar explicitamente conteúdos produzidos pelo modelo daqueles provenientes de fontes externas. Os especialistas também defendem restrições para a renderização automática de links e imagens de origem desconhecida, reduzindo o nível de confiança atribuído a elementos potencialmente manipulados por terceiros.

Junte cashback e transfira para sua conta com a Benefícios Rede Bee!

A Bee Fenati – a rede social dos profissionais de TI de todo o Brasil – segue em expansão para garantir aos seus usuários cada vez mais benefícios. Agora a plataforma conta com a Benefícios Rede Bee, que reúne descontos em dezenas de grandes marcas, com muitas delas oferecendo cashback, ou seja, o retorno de um valor da sua compra que poderá ser transferido direto para sua conta! (Saiba mais aqui)

Baixe o aplicativo nas lojas App Store e Google Store e aproveite agora! A Bee Fenati reúne em um único ambiente ofertas em áreas como educação, compras, viagens, lazer, serviços, tecnologia e muito mais. Dentre as marcas parceiras estão Magalu, Renner, Drogasil, C&A, Dell, Casas Bahia, Vivo, Petz, Drogaria São Paulo, e muito mais!

Além de poderem aproveitar os descontos oferecidos pelas marcas parceiras, os usuários da plataforma receberão de volta um percentual a cada compra que realizarem em parceiros que oferecem o cashback.

Este valor ficará em uma carteira digital dentro da plataforma da Benefícios Rede Bee e, a partir de R$ 20 reais acumulados em cashback, o trabalhador pode transferir o dinheiro direto para sua conta bancária!

Na prática, a ferramenta permitirá que sócios e contribuintes dos sindicatos filiados à Fenati (Federação Nacional dos Trabalhadores em Tecnologia da Informação) possam ZERAR o valor da sua contribuição assistencial e associativa!

Atualmente, o valor da contribuição é de R$ 32,50 por mês para sócios e R$ 35 por mês para contribuintes, ou seja, é possível recuperar todo esse valor e ainda acumular muito mais – tudo isso contribuindo para fortalecer a categoria e transformando as compras e serviços do cotidiano em ganho real.

(Com informações de Tecmundo)

(Foto: Reprodução/Magnific/frimufilms)