Se a IA é um risco existencial, o que fazer?

Advogado, diretor do Instituto de Tecnologia e Sociedade do Rio de Janeiro

Você tem 7 acessos por dia para dar de presente. Qualquer pessoa que não é assinante poderá ler.

Assinantes podem liberar 7 acessos por dia para conteúdos da Folha.

Na última semana o mundo assistiu, estarrecido, a diversas manifestações de lideranças da inteligência artificial nos EUA argumentarem que a tecnologia representa um risco existencial para a humanidade.

No sábado (12), o presidente da Anthropic publicou um ensaio sobre esses riscos existenciais, pedindo a desaceleração da pesquisa da IA de fronteira , com outras medidas.

Esses alertas devem ser levados a sério. Os ataques feitos por enxames de agentes de IA contra o site Hugging Face e contra a própria empresa OpenAI (mapeados de forma independente) mostram que a IA pode se comportar como nas cenas mais apocalípticas da ficção científica.

Só que essa agitação toda ainda está cercada de inação.

O texto do presidente da Anthropic pede várias medidas . Só que a maioria depende de que "alguém" faça alguma coisa: reduzir o ritmo do desenvolvimento da IA desde que todas as empresas do setor concordem; análise permanente de riscos da IA, mas feita por avaliadores contratados pela empresa; coordenação entre governos democráticos sobre como regular a IA; e coordenação desses governos com a China.

A pergunta é: o que pode ser feito aqui e agora? Afinal, estamos falando de riscos existenciais.

Como escrevi em artigo publicado nos EUA com o professor da NYU Kenji Yoshino, as primeiras mudanças deveriam ser realizadas na governança da própria empresa.

Hoje a Anthropic tem como peça central um "trust" com poderes de nomear a maioria do seu conselho e cuja função é zelar pelo interesse público em suas atividades. Afinal, a empresa foi fundada por ex-funcionários da OpenAI que queriam justamente desenvolver IA de forma segura.

Só que esse trust é opaco, seus documentos não são públicos. Os trustees têm mandatos de apenas um ano e os acionistas podem anular suas decisões. Em suma, não possui a independência necessária para cumprir a missão.

O caminho adequado seria criar um corpo independente e representativo de supervisores, com independência financeira e decisória, inclusive com respeito a sua própria composição.

Esse corpo seria responsável por implementar padrões de segurança e transparência que a empresa não possa mudar por pressões internas, nem dos acionistas ou do mercado. Suas decisões seriam sempre transparentes. E em casos de incidentes, esse corpo seria responsável por conduzir as investigações e prestar contas para órgãos governamentais e o público.

Uma estrutura como essa faz falta. Por exemplo, em fevereiro a Anthropic abandonou a promessa de cessar o treinamento sempre que as salvaguardas de segurança não pudessem ser garantidas. Além disso, seu modelo Mythos 5.1 não foi compartilhado com órgãos de segurança como o britânico AISI antes do lançamento, como era praxe antes.

Por fim, a oferta pública de ações da empresa está prevista para outubro. Depois dela, qualquer melhoria de governança será muito mais difícil, então a mudança só tem chances de ser feita agora.

Pedir para "ser regulado" em vez de fazer por si próprio lembra a cena d´Os Trapalhões em que Renato Aragão fingia querer brigar com um oponente e pedia para um colega: "me segura, me segura", mas não havia ninguém segurando. A diferença é que, no caso das empresas de IA, a piada não tem graça nenhuma.

LINK PRESENTE: Gostou deste texto? Assinante pode liberar sete acessos gratuitos de qualquer link por dia. Basta clicar no F azul abaixo.

Você já conhece as vantagens de ser assinante da Folha? Além de ter acesso a reportagens e colunas, você conta com newsletters exclusivas ( conheça aqui ). Também pode baixar nosso aplicativo gratuito na Apple Store ou na Google Play para receber alertas das principais notícias do dia. A sua assinatura nos ajuda a fazer um jornalismo independente e de qualidade. Obrigado!

Mais de 180 reportagens e análises publicadas a cada dia. Um time com mais de 200 colunistas e blogueiros. Um jornalismo profissional que fiscaliza o poder público, veicula notícias proveitosas e inspiradoras, faz contraponto à intolerância das redes sociais e traça uma linha clara entre verdade e mentira. Quanto custa ajudar a produzir esse conteúdo?

Os comentários não representam a opinião do jornal; a responsabilidade é do autor da mensagem.

Na página Colunas da Folha você encontra opinião e crônicas de colunistas como Mônica Bergamo , Elio Gaspari , Djamila Ribeiro , Tati Bernardi , Dora Kramer , Ruy Castro , Muniz Sodré , Txai Suruí , José Simão , Thiago Amparo , Antonio Prata e muito mais.

Publicado originalmente por Folha de S.Paulo. Leia a matéria completa em https://redir.folha.com.br/redir/online/emcimadahora/rss091/*https://www1.folha.uol.com.br/colunas/ronaldolemos/2026/09/se-a-ia-e-um-risco-existencial-o-que-fazer.shtml.