IA pode causar incidentes graves em até dois anos, alerta presidente do Google DeepMind

Você tem 7 acessos por dia para dar de presente. Qualquer pessoa que não é assinante poderá ler.

Assinantes podem liberar 7 acessos por dia para conteúdos da Folha.

Dublin (Irlanda) | AFP Os agentes de IA ( inteligência artificial ) poderiam provocar "incidentes graves" dentro de um ou dois anos se as empresas e os governos não adotarem medidas apropriadas para garantir a segurança, advertiu nesta quarta-feira (14), em Dublin, Demis Hassabis , presidente do conselho do Google DeepMind.

Os casos de perda de controle de agentes autônomos de inteligência artificial observados nos últimos meses "são, de certo modo, sinais de alerta", afirmou Hassabis durante uma reunião sobre inteligência artificial em Dublin.

O executivo acrescentou que estes sistemas ainda têm capacidades limitadas, razão pela qual os incidentes registrados até o momento não foram, segundo ele, graves.

A preocupação com a segurança da IA disparou depois que modelos desenvolvidos pela OpenAI e pela Anthropic se viram envolvidos em incidentes de segurança durante testes, o que aumentou a pressão para regulamentar a tecnologia .

Hassabis afirmou que provavelmente os novos modelos de IA deveriam ser testados primeiro em ambientes isolados, sem conexão, conhecidos como "sandboxes", depois que modelos de outras empresas conseguiram escapar justamente dos ambientes fechados usados para avaliar suas capacidades.

Henna Virkkunen, vice-presidente executiva da Comissão Europeia, titular de Soberania Tecnológica, Segurança e Democracia no bloco, afirmou que as empresas de IA devem dedicar mais tempo a testar seus sistemas para manter o controle sobre eles.

"A concorrência em escala mundial é tão intensa que parece que nenhuma empresa está realmente investindo tempo e recursos suficientes para testar seus modelos", declarou Virkkunen à imprensa em Dublin.

"Devem ser capazes de controlar estes sistemas", afirmou. Ela acrescentou que a União Europeia enviou pedidos de informação a todas as principais empresas de IA para perguntar sobre as medidas de segurança e proteção implementadas.

A Comissão Europeia obteve novas competências regulatórias em agosto, com base na Lei de IA, a norma mais ambiciosa do mundo para limitar os usos potencialmente perigosos desta tecnologia.

Publicado originalmente por Folha de S.Paulo. Leia a matéria completa em https://redir.folha.com.br/redir/online/emcimadahora/rss091/*https://c-level.folha.uol.com.br/ia/2026/10/ia-pode-causar-incidentes-graves-em-ate-dois-anos-alerta-presidente-do-google-deepmind.shtml.