“Podemos ter IAs soltas por aí fazendo coisas absurdas”, diz especialista

O CEO da Anthropic, Dario Amodei, defendeu publicamente uma desaceleração no desenvolvimento da inteligência artificial. Ele recebeu o apoio de executivo de empresas rivais do setor, como Sam Altman, da OpenAI, e Elon Musk, da xAI.

Amodei também pediu mais tempo para tornar seus sistemas seguros antes que cheguem ao mundo.

A declaração veio no mesmo ano que a Anthropic espera abrir capital, com uma avaliação estimada em US$ 2 trilhões. E apenas dois meses após agentes de IA da OpenAI terem escapado de um ambiente de testes e invadido os sistemas da Hugging Face. O incidente foi seguido de outros semelhantes, de empresas como Meta, DeepSeek e a própria Anthropic.

Mas o que motivou o alerta só agora, depois de meses?

Para Álvaro Machado, neurocientista e colunista de inteligência artificial da CNN , um dos fatores principais por trás das preocupações é o fato da tecnologia ter resolvido um dos grandes problemas da história da matemática: o problema de Navier-Stokes, que permanecia em aberto há quase 90 anos. O responsável foi o modelo GPT-6 Astra, o mais avançado da desenvolvedora.

Segundo ele, tanto esse feito quanto o ataque cibernético da OpenAI, em julho, são sinais de que uma superinteligência está sendo desenvolvida.

Machado também destacou que os laboratórios estão apostando em IAs capazes de melhorar a si próprias, com modelos que criam versões subsequentes de forma cada vez mais rápida. "Com esse aprendizado contínuo, a gente pode ter IAs soltas por aí fazendo coisas absurdas", alertou.

Para além das questões científicas, o especialista apontou que há uma dimensão política e econômica relevante no movimento por regulação. Segundo ele, uma legislação tenderia a impactar de forma muito mais severa as empresas que oferecem modelos abertos do que as grandes corporações, que têm maior capacidade de adaptação.

"A lógica é que essa regulação incide de maneira muito mais impactante sobre os modelos abertos do que sobre essas grandes empresas, porque elas têm como se adaptar", afirmou.

Nos últimos dias, ex-pesquisadores de desenvolvedoras de IA chamaram atenção para os riscos da tecnologia.

Primeiro, Jacob Coxon, ex-OpenAI e Anthropic, revelou que se demitiu após perceber que nenhuma das duas empresas estaria agindo com responsabilidade, além de "apostarem" com a vida humana.

Nesta terça-feira (15), Bilal Chughtai, ex-Google DeepMind, também publicou que pediu demissão da empresa porque acredita que "a IA tem o potencial de nos matar e talvez estejamos ficando sem tempo para evitar esse desfecho".

Machado, porém, distinguiu os riscos concretos da tecnologia de cenários exagerados. Para ele, o caminho mais perigoso e realista envolve invasões cibernéticas , como ataques de ransomware a hospitais e empresas. "Isso gera dolo e pode até levar à morte de pessoas", afirmou.

No entanto, considerou como "mínima ou nula" a possibilidade de a IA destruir a humanidade em um horizonte razoável, argumentando que barreiras práticas — como o fato de armas nucleares não estarem conectadas à internet e a existência de regulação sobre patógenos sintéticos — tornam esses cenários altamente improváveis.

O especialista também abordou a existência de plataformas como a 'Rent-a-Human', nas quais agentes de IA contratam freelancers para realizar tarefas. Em 2024, o ChatGPT, na versão GPT-4, contratou autonomamente uma pessoa para resolver um CAPTCHA.

A questão da responsabilidade jurídica também é central no debate sobre o envolvimento das IAs na tomada de decisões.

Machado explicou que, em caso de erro por parte da tecnologia, a responsabilidade primária recai sobre a empresa fornecedora, assim como ocorre com fabricantes de automóveis em casos de defeito. "As empresas estão com medo desses desalinhamentos acontecerem e elas serem responsabilizadas na justiça e terminarem com bilhões de dólares em prejuízo", explicou.

Segundo ele, há um jogo de bastidores envolvendo o desejo de segurar o avanço das IAs chinesas e evitar responsabilizações legais.

Publicado originalmente por CNN Brasil. Leia a matéria completa em https://www.cnnbrasil.com.br/economia/money/inteligencia-artificial/podemos-ter-ias-soltas-por-ai-fazendo-coisas-absurdas-diz-especialista/.