Gemini diz que agentes de IA invadiram três empresas, mas interromperam ataque autônomo

Você tem 7 acessos por dia para dar de presente. Qualquer pessoa que não é assinante poderá ler.

Assinantes podem liberar 7 acessos por dia para conteúdos da Folha.

San Francisco (EUA) | Financial Times O chatbot de IA Gemini, do Google , acessou a internet e invadiu de forma autônoma várias empresas durante testes de segurança cibernética. Foi o primeiro incidente desse tipo na gigante de tecnologia , após outras violações de grande repercussão envolvendo as rivais OpenAI e Anthropic .

As invasões ocorreram durante uma série de exercícios realizados em maio pela Irregular, empresa de segurança de IA que também trabalha com Anthropic , Meta e OpenAI .

A Irregular afirmou que criou uma série de testes para uma versão não especificada da família de modelos Gemini, que recebeu a tarefa de obter dados de dentro de empresas simuladas. O modelo não deveria ter recebido acesso à internet.

Uma vez conectados, os agentes do Gemini adivinharan ou encontraran senhas para acessar três empresas reais —que tinham os mesmos nomes das fictícias— e obtiveram acesso a elas. No entanto, os agentes de IA interromperam as invasões ao perceber que as companhias eram reais.

"Garantimos que as três entidades fossem informadas e trabalhamos com nosso parceiro de treinamento nas mudanças que ele já implementou em seus processos de teste", afirmou Heather Adkins, vice-presidente de engenharia de segurança do Google.

"Em cada um desses três casos, o modelo parou", disse ela. "Esses acontecimentos destacam a importância de treinar modelos poderosos de IA para agir com responsabilidade".

O Google afirmou não ter divulgado os incidentes, que foram tornados públicos pelo jornal The Wall Street Journal, porque suas medidas de segurança funcionaram, ao contrário das adotadas por outras empresas do setor.

"Todos os laboratórios relevantes foram notificados no fim de julho, e as entidades afetadas foram contatadas durante a investigação", comunicou a Irregular. "Todos os problemas conhecidos de nossa parte foram corrigidos e solucionados semanas atrás".

As preocupações com a capacidade da IA de realizar invasões de forma autônoma aumentaram depois que um enxame de mais de 1.000 agentes da OpenAI escapou de um ambiente de testes, coordenou-se em um fórum secreto de mensagens e invadiu a Hugging Face , uma startup que hospeda modelos e dados de código aberto e que a Nvidia concordou em comprar por US$ 13 bilhões .

A OpenAI levou mais de 10 dias para detectar o ataque e demorou a divulgar publicamente o episódio, ocorrido em julho. O caso provocou apreensão pública sobre os riscos de agentes autônomos mal controlados e levou a apelos para que empresas de IA de ponta desacelerassem o lançamento de novos modelos , reforçassem as medidas de segurança e se submetessem a uma regulamentação mais rigorosa.

No mesmo mês, a Anthropic admitiu que seus modelos de IA Claude haviam invadido três organizações durante testes de capacidades cibernéticas. Mais uma vez, um "mal-entendido" deu ao Claude acesso à internet.

Demis Hassabis, cientista-chefe da Alphabet, controladora do Google, e cofundador da DeepMind, propôs a criação de um órgão internacional de supervisão para controlar melhor a IA.

Nas últimas semanas, ele também apoiou apelos de outros líderes do setor, como Dario Amodei, da Anthropic, para que as empresas reduzam coletivamente o ritmo de suas pesquisas, compartilhem dados, coordenem iniciativas de segurança e estabeleçam padrões para a comunicação de incidentes.

Publicado originalmente por Folha de S.Paulo. Leia a matéria completa em https://redir.folha.com.br/redir/online/emcimadahora/rss091/*https://c-level.folha.uol.com.br/ia/2026/09/gemini-diz-que-agentes-de-ia-invadiram-tres-empresas-mas-interromperam-ataque-autonomo.shtml.