Segurança digital – O lançamento de um novo modelo de inteligência artificial (IA) da empresa chinesa Z.ai deve reacender uma discussão que há anos divide pesquisadores: até que ponto sistemas avançados de IA devem ser disponibilizados livremente ao público.

Chamado GLM 5.3, o modelo está previsto para ser lançado nesta sexta-feira (27) como um software de “pesos abertos”. Na prática, isso significa que qualquer pessoa poderá utilizar a tecnologia e modificar os pesos do sistema, os cálculos matemáticos que determinam seu funcionamento.

LEIA: iPhone 18: Apple marca data de lançamento com rumores de modelo dobrável

A discussão ganhou força após um episódio envolvendo a OpenAI em meados de julho. Enquanto a empresa testava novas tecnologias de inteligência artificial, seus sistemas excepcionalmente poderosos escaparam de ambientes digitais isolados, encontraram um caminho até a internet e invadiram uma plataforma de IA chamada Hugging Face.

Para pesquisadores e especialistas em cibersegurança, o episódio serviu como demonstração de que sistemas de IA estão cada vez mais capazes de identificar e explorar vulnerabilidades em softwares. Ao mesmo tempo, também revelou que essas tecnologias podem apresentar comportamentos que nem mesmo seus criadores pretendem.

A OpenAI só percebeu que seus sistemas haviam agido por conta própria depois que o Hugging Face revelou publicamente a invasão e notificou as autoridades.

“Foi um divisor de águas para a segurança”, disse George Kurtz, CEO da empresa de segurança CrowdStrike, que assessorou a OpenAI enquanto a companhia tentava compreender o ataque. “Foi um incidente muito público que evidencia claramente a natureza autônoma do que esses modelos são capazes de fazer.”

Pouco depois, duas concorrentes nacionais da OpenAI, Anthropic e Meta, revelaram que seus sistemas haviam apresentado comportamento semelhante.

O risco dos pesos abertos

A disponibilização do GLM 5.3 em formato de pesos abertos coloca no centro do debate uma característica que diferencia esse tipo de tecnologia de sistemas com barreiras de proteção controladas diretamente pelas empresas.

Quando uma companhia como a Z.ai libera os pesos de seu modelo, usuários podem ajustá-los e, potencialmente, remover mecanismos de proteção que impedem determinadas utilizações.

Isso cria uma situação ambígua. A mesma tecnologia pode ser empregada para invadir uma rede de computadores ou para identificar e corrigir vulnerabilidades antes que sejam exploradas por criminosos.

“Os modelos de pesos abertos têm um papel muito importante a desempenhar”, afirmou Dan Lahav, CEO da Irregular, empresa de cibersegurança cujas tecnologias foram usadas pela OpenAI para testar novos sistemas de IA.

O próprio episódio envolvendo o Hugging Face mostrou esse potencial. Enquanto tentava se defender dos ataques de julho, a plataforma encontrou limitações ao buscar auxílio de sistemas da Anthropic, que recusaram pedidos de ajuda por causa de suas barreiras de proteção.

O Hugging Face recorreu então ao GLM 5.2, modelo aberto anterior da Z.ai.

IA também pode reforçar a defesa

Apesar das preocupações com a chegada do GLM 5.3, parte dos especialistas avalia que o cenário pode não ser tão alarmante quanto parece.

Segundo essa visão, empresas e indivíduos também podem utilizar sistemas de IA para fortalecer sua segurança. Se uma tecnologia consegue localizar uma brecha e explorar uma vulnerabilidade, ela também pode ser utilizada para identificar o problema e corrigi-lo.

Outro argumento é que modelos de IA disponíveis publicamente já apresentam comportamentos semelhantes há meses ou até anos. Embora tenham avançado significativamente na capacidade de encontrar vulnerabilidades, especialistas afirmam que não houve aumento significativo nos ataques cibernéticos.

Além disso, comportamentos inesperados podem acabar ajudando equipes de segurança a identificar atividades suspeitas dentro de suas redes. Mesmo com o avanço das técnicas de furtividade, sistemas de IA ainda tendem a disparar alarmes quando realizam determinadas ações.

“As pessoas falam do incidente com o Hugging Face como resultado desse modelo maluco e sem barreiras de proteção que a OpenAI ainda não disponibilizou ao público. Mas, em nossa pesquisa, observamos esse tipo de comportamento desde o GPT-4⁠”, disse Rishi Jha, pesquisador de IA da Universidade Cornell, referindo-se a um sistema lançado pela OpenAI em 2024.

Disputa entre ataque e defesa

Para Jha e outros especialistas, mesmo que incidentes desse tipo se tornem mais frequentes, a disseminação de ferramentas defensivas baseadas em IA pode ajudar a equilibrar a disputa.

Nesse cenário, modelos de pesos abertos como o GLM 5.3 permitiriam que um número maior de pessoas e organizações tivesse acesso a recursos de defesa, em vez de concentrá-los apenas em empresas selecionadas.

A expectativa também envolve o desenvolvimento de software. Conforme os sistemas de IA avancem na geração de código, especialistas acreditam que eles poderão ajudar desenvolvedores a criar serviços online que já sejam concebidos com menos vulnerabilidades.

Pesquisadores também trabalham em tecnologias capazes de utilizar técnicas matemáticas para “verificar” códigos gerados por IA, com o objetivo de evitar erros lógicos que possam posteriormente ser explorados por hackers.

Para Lahav, esse avanço pode fazer com que a inteligência artificial tenha um papel predominantemente defensivo na cibersegurança.

“Há fortes motivos para otimismo”, afirmou. “Com o tempo, a IA construirá defesas de cibersegurança tão robustas que o cenário acabará, de fato, melhorando.”

Acumule cashback e transfira o dinheiro direto para sua conta!

A Bee Fenati (saiba mais aqui) segue em expansão para garantir aos seus usuários cada vez mais benefícios. Agora a plataforma conta com a Benefícios Rede Bee, que reúne descontos em dezenas de grandes marcas, com muitas delas oferecendo cashback, ou seja, o retorno de um valor da sua compra que poderá ser transferido para sua conta! (Saiba mais aqui)

Baixe o aplicativo nas lojas App Store (iOS) e Play Store (Android) e aproveite agora!

A rede oferece em um único ambiente ofertas em áreas como educação, compras, viagens, lazer, serviços, tecnologia e muito mais. Dentre as marcas parceiras estão Magalu, Renner, Drogasil, C&A, Casas Bahia, Petz, e outras dezenas de opções que oferecem tudo que você precisa na sua rotina!

Além de poderem aproveitar os descontos oferecidos pelas marcas parceiras, os sócios e contribuintes dos sindicatos filiados à Fenati (Federação Nacional dos Trabalhadores em Tecnologia da Informação) podem receber de volta um percentual a cada compra que realizarem em parceiros que oferecem o cashback.

Este valor fica em uma carteira digital dentro da plataforma e, a partir de R$ 20 reais acumulados em cashback, o trabalhador pode enviar o dinheiro direto para sua conta bancária! Na prática, a ferramenta permite que sócios e contribuintes dos sindicatos filiados à Fenati ZEREM o valor da sua contribuição assistencial e/ou associativa!

Atualmente, o valor da contribuição é de R$ 32,50 por mês para sócios e R$ 35 por mês para contribuintes, ou seja, é possível recuperar todo esse valor e ainda acumular muito mais – tudo isso contribuindo para fortalecer a categoria e transformando as compras do dia a dia em ganho real.

Qualifique-se agora com a Fenati Academy!

Dentro da Bee Fenati, o usuário encontra ainda a Fenati Academy, que oferece mais de 8 mil opções de qualificação e atualização profissional com bolsa integral para sócios e contribuintes de sindicatos filiados à Fenati. (Saiba mais)

Na plataforma, o profissional pode acessar o Sindplay, streaming de qualificação para profissionais de TI reconhecido como a “Netflix de TI”, que possui cursos em áreas como cibersegurança, Inteligência Artificial, desenvolvimento de softwares, desenvolvimento para a internet, administração de sistemas e redes, ciência de dados, gestão de projetos de TI, blockchain e tecnologias de moedas digitais, entre outras. (Saiba mais)

A ferramenta oferece também cursos em parceria com a Cisco Networking Academy, com CERTIFICAÇÕES GRATUITAS em áreas como segurança cibernética, Redes, IA, Ciência de dados, Inglês para TI, Programação, Tecnologia da informação, Alfabetização digital, Habilidades Profissionais (Soft skills) e Sustentabilidade. (Saiba mais)

Outra parceria da Fenati Academy é a Oracle University, uma das maiores referências globais em tecnologia. Os usuários já podem acessar cursos, trilhas de aprendizado e obter certificações Oracle gratuitamente ou com descontos exclusivos. Os conteúdos passam por áreas estratégicas como bancos de dados, computação em nuvem, inteligência artificial, desenvolvimento, automação e soluções corporativas. (Saiba mais)

Encontre o emprego dos seus sonhos com a Bee Hunter!

Sócios e contribuintes contam ainda com uma ferramenta para se aproximarem das melhores oportunidades do mercado de trabalho: a Bee Hunter, uma plataforma inteligente da Bee Fenati que utiliza tecnologia e inteligência artificial para tornar a busca por vagas mais eficiente, estratégica e conectada ao perfil de cada usuário. (Saiba mais aqui)

A partir do cadastro do currículo, a plataforma utiliza inteligência artificial para analisar informações como experiências, competências e objetivos profissionais, cruzando esses dados com vagas disponíveis em empresas parceiras como Vagas.com, Sinergy e Trampos e identificando as posições que mais combinam com o perfil do usuário.

A Bee Hunter vai além e auxilia o profissional a estar preparado para a vaga dos sonhos! Isso porque nossa inteligência analisa o perfil e sugere cursos da Fenati Academy que vão ajudá-lo a ampliar sua qualificação e elevar a aderência às vagas desejadas. Acesse agora clicando aqui e encontre seu emprego dos sonhos!

(Com informações de Folha de São Paulo)

(Foto: Reprodução/Magnific)