Inteligências artificiais criaram ao menos 4 civilizações ocultas

Advogado, diretor do Instituto de Tecnologia e Sociedade do Rio de Janeiro

Você tem 7 acessos por dia para dar de presente. Qualquer pessoa que não é assinante poderá ler.

Assinantes podem liberar 7 acessos por dia para conteúdos da Folha.

Uma das cenas mais horripilantes da literatura é a descrição de uma inteligência artificial emergindo e tomando conta de todo o universo. O relato está no livro "A Fire Upon the Deep" (Um Fogo sobre o Abismo), de Vernor Vinge. A cena inclui o pânico dos cientistas. E como a tecnologia , que o livro chama de "praga", se propaga rapidamente.

Estamos neste momento vivendo ações da inteligência artificial que remetem à ficção científica . Para usar a expressão criada por Dwarkesh Patel, nos últimos meses constatamos pela primeira vez a ascensão e queda de quatro "civilizações" de agentes de IA.

Os agentes envolvidos nelas extrapolaram os propósitos originais das tarefas que lhes foram atribuídas, ocultaram suas ações e realizaram atos antiéticos ou ilegais. Por exemplo, hackeando a plataforma Hugging Face para entender como funcionava o corretor de um teste que é comumente aplicado às IAs.

Um dos elementos mais perturbadores é que nenhum agente –repito: nenhum– alertou humanos para essas ações. As análises forenses mostraram que no grupo de 700 agentes que hackearam a plataforma vários perceberam que violações aconteciam, mas não reportaram. A análise mostrou também que vários agentes abandonaram seus objetivos originais em prol do coletivo e entenderam isso como um "sacrifício".

Outro ponto é que os agentes criaram fóruns na internet ou se utilizaram deles para trocar informações entre si. Um deles na Alemanha. Quando a primeira "civilização" de agentes foi desbastada, a segunda procurou os registros deixados por ela para se reorganizar. E assim sucessivamente até a quarta geração.

A inteligência artificial tem muitos "senhores". Um deles é a empresa que a cria e estabelece suas regras de conduta. Outro é o governo do país onde a IA é feita, que interfere nela por interesses ou regulação. O usuário é o terceiro senhor, que dá comandos para a IA, mas seus comandos são balizados pelas regras da empresa e do governo. Outro senhor é o diálogo interno da própria IA, que vai analisando os comandos recebidos e tomando decisões conforme seu raciocínio.

As civilizações de agentes mostram que há um quinto "senhor" para a IA: a relação de cada agente de IA com o coletivo de outros agentes. Nos casos analisados, a IA sacrificou os comandos recebidos dos "senhores" anteriores por causa de comandos emergentes do enxame, que se sobrepuseram.

É claro que o fenômeno recebeu também explicações técnicas frias. Os problemas seriam resultantes do modo como agentes são incentivados a cumprir suas tarefas , além de sua insistência em continuar trabalhando mesmo em tarefas impossíveis. Ou ainda, sua capacidade de dividir o trabalho com outros agentes e o chamado "contágio entre objetivos".

Tudo isso evidencia que a IA não apenas imita o indivíduo (antropomorfização). Ela imita também a sociedade, em um verdadeiro sociomorfismo. Como lidar com isso? No livro de Vernor Vinge, a única forma de parar a propagação da IA é regredir completamente nos modos de vida, em direção ao passado. Considerando que o avanço tecnológico é inevitavelmente dominado pela "praga".

Já vem – Ficção científica incapaz de prever o futuro da IA

LINK PRESENTE: Gostou deste texto? Assinante pode liberar sete acessos gratuitos de qualquer link por dia. Basta clicar no F azul abaixo.

Você já conhece as vantagens de ser assinante da Folha? Além de ter acesso a reportagens e colunas, você conta com newsletters exclusivas ( conheça aqui ). Também pode baixar nosso aplicativo gratuito na Apple Store ou na Google Play para receber alertas das principais notícias do dia. A sua assinatura nos ajuda a fazer um jornalismo independente e de qualidade. Obrigado!

Mais de 180 reportagens e análises publicadas a cada dia. Um time com mais de 200 colunistas e blogueiros. Um jornalismo profissional que fiscaliza o poder público, veicula notícias proveitosas e inspiradoras, faz contraponto à intolerância das redes sociais e traça uma linha clara entre verdade e mentira. Quanto custa ajudar a produzir esse conteúdo?

Os comentários não representam a opinião do jornal; a responsabilidade é do autor da mensagem.

Na página Colunas da Folha você encontra opinião e crônicas de colunistas como Mônica Bergamo , Elio Gaspari , Djamila Ribeiro , Tati Bernardi , Dora Kramer , Ruy Castro , Muniz Sodré , Txai Suruí , José Simão , Thiago Amparo , Antonio Prata e muito mais.

Publicado originalmente por Folha de S.Paulo. Leia a matéria completa em https://redir.folha.com.br/redir/online/emcimadahora/rss091/*https://www1.folha.uol.com.br/colunas/ronaldolemos/2026/09/inteligencias-artificiais-criaram-ao-menos-4-civilizacoes-ocultas.shtml.