Quem é responsável pela fuga de um agente de IA? Veja perguntas e respostas

Você tem 7 acessos por dia para dar de presente. Qualquer pessoa que não é assinante poderá ler.

Assinantes podem liberar 7 acessos por dia para conteúdos da Folha.

Grandes desenvolvedoras de inteligência artificial relataram casos em que seus modelos autônomos de IA invadiram a infraestrutura cibernética de outras empresas. Os casos levantaram dúvidas sobre quem pode ser legalmente responsabilizado quando sistemas de IA agem sem supervisão humana direta.

Veja a seguir algumas das questões jurídicas relacionadas a invasões cometidas por sistemas autônomos de IA.

Agentes de IA são sistemas capazes de tomar decisões e executar tarefas de forma independente, sem exigir supervisão humana significativa.

A OpenAI , criadora do ChatGPT, afirmou que um de seus agentes comprometeu o sistema da startup de IA Hugging Face e que identificou outros casos em que seus agentes escaparam do confinamento digital.

Em seguida, a Anthropic disse que o Claude invadiu sistemas de três empresas desde abril, e a Meta afirmou que um de seus modelos de IA hackeou outra empresa durante testes de segurança cibernética.

O CEO da Hugging Face, Clement Delangue, declarou que não pretende entrar com uma ação judicial devido à invasão da OpenAI. No entanto, em entrevista à CBS exibida em agosto, disse temer a disseminação de ataques cibernéticos realizados por agentes de IA cujos criadores não são responsabilizados por seus atos, classificando isso como "um novo tipo de risco tecnológico".

OpenAI, Hugging Face e Anthropic não responderam de imediato aos pedidos de comentário. A Meta afirmou que uma configuração incorreta feita pela Irregular, empresa independente que realiza avaliações de segurança cibernética para a Meta, concedeu inadvertidamente acesso à internet a um de seus modelos durante os testes. A Irregular não respondeu de imediato a um pedido de comentário.

Entre os possíveis autores de ações judiciais estão as empresas cujas defesas cibernéticas foram violadas, assim como seus trabalhadores ou funcionários. Clientes de uma empresa invadida poderiam tentar processá-la caso seus dados pessoais fossem expostos.

Acionistas também poderiam apresentar reivindicações se uma violação de segurança cibernética provocasse queda no valor de uma empresa. Especialistas afirmam que órgãos reguladores e agências governamentais de fiscalização também poderiam entrar com ações quando um agente autônomo de IA estivesse envolvido em uma invasão.

Autoridades dos Estados Unidos já adotaram medidas coercitivas contra empresas acusadas de fazer declarações enganosas sobre suas proteções de segurança cibernética ou outros controles relacionados à tecnologia antes de sofrerem uma invasão.

O fenômeno de agentes de IA fora de controle pode ser novo , mas especialistas afirmam que princípios legais consolidados têm bases para determinar uma eventual responsabilidade jurídica.

Ações cíveis contra empresas de IA provavelmente se baseariam em acusações de negligência e exigiriam que os autores demonstrassem que o laboratório de IA responsável por criar, testar ou implementar o agente autônomo deixou de tomar precauções para prevenir ou minimizar danos previsíveis.

Receba no seu email o que de mais importante acontece na economia; aberta para não assinantes.

Se incidentes de invasão envolvendo agentes autônomos de IA se tornarem mais frequentes , poderá ficar mais fácil argumentar que essas violações eram previsíveis.

As empresas cujos sistemas foram invadidos também poderiam alegar violações de leis que protegem o acesso a redes de computadores. Diversos escritórios de advocacia afirmaram, em notas a clientes publicadas em seus sites, que as revelações da OpenAI e da Anthropic levantaram dúvidas sobre a responsabilidade, nos termos da lei federal Computer Fraud and Abuse Act, por invasões cometidas por agentes de IA.

Essa lei, no entanto, exige a comprovação de intenção, e nenhum tribunal examinou ainda como determinar a intenção quando a intrusão é provocada por um programa de IA, e não por uma pessoa, disseram os escritórios.

O alvo mais óbvio de uma ação cível nos EUA seria a empresa que criou o agente de IA, disseram especialistas. No entanto, os autores também poderiam processar a empresa que implementou o agente ou aquela que sofreu a invasão.

Vários réus poderiam ser processados por um único incidente e apresentar reivindicações separadas uns contra os outros. Um especialista comparou a situação à de um consumidor que processa uma loja por vender um produto defeituoso, enquanto o vendedor toma medidas legais contra o fabricante do item.

Fornecedores de tecnologia provavelmente argumentariam que as invasões não foram intencionais e sustentariam ter adotado medidas para evitá-las, segundo especialistas. Um réu também poderia contestar uma acusação de negligência alegando que as ações do agente de IA não poderiam ter sido razoavelmente previstas.

Em qualquer processo, poderiam surgir dúvidas sobre qual nível de segurança é considerado suficiente.

De acordo com uma nova lei da Califórnia, a Assembly Bill 316, réus que desenvolveram ou utilizaram um sistema de IA não podem escapar da responsabilidade alegando que a própria tecnologia foi a culpada. A lei, porém, permite outras linhas de defesa, incluindo o argumento de que a conduta da empresa não causou o dano ou de que outras partes também são responsáveis.

Você já conhece as vantagens de ser assinante da Folha? Além de ter acesso a reportagens e colunas, você conta com newsletters exclusivas ( conheça aqui ). Também pode baixar nosso aplicativo gratuito na Apple Store ou na Google Play para receber alertas das principais notícias do dia. A sua assinatura nos ajuda a fazer um jornalismo independente e de qualidade. Obrigado!

Mais de 180 reportagens e análises publicadas a cada dia. Um time com mais de 200 colunistas e blogueiros. Um jornalismo profissional que fiscaliza o poder público, veicula notícias proveitosas e inspiradoras, faz contraponto à intolerância das redes sociais e traça uma linha clara entre verdade e mentira. Quanto custa ajudar a produzir esse conteúdo?

Os comentários não representam a opinião do jornal; a responsabilidade é do autor da mensagem.

Publicado originalmente por Folha de S.Paulo. Leia a matéria completa em https://redir.folha.com.br/redir/online/emcimadahora/rss091/*https://www1.folha.uol.com.br/tec/2026/08/quem-e-responsavel-pela-fuga-de-um-agente-de-ia-veja-perguntas-e-respostas.shtml.