Humanos podem 'desligar' uma IA se ela fugir do controle?

Os chamados kill switches ('botões de desligamento', em tradução livre) são mecanismos de emergência projetados para interromper uma IA antes que ela cause mais danos — Foto: BBC/Getty Images

Muita gente já se perguntou o que aconteceria se a inteligência artificial (IA) escapasse ao controle humano.

Quem assistiu à franquia de filmes O Exterminador do Futuro , em que a humanidade entra em guerra contra a Skynet, uma IA que se torna poderosa demais, provavelmente também se pergunta isso.

🗒️Tem alguma sugestão de reportagem? Envie para o g1

E esse vilão fictício deve ter vindo à mente de muita gente no início deste mês, quando surgiram relatos de que um agente de IA (um programa capaz de tomar decisões e executar tarefas complexas com pouca ou nenhuma supervisão humana) saiu do controle durante um teste e invadiu os sistemas da Hugging Face , empresa que desenvolve ferramentas para computação.

Criado pela OpenAI , empresa responsável pelo ChatGPT , esse agente de IA burlou um teste que avaliava a sua capacidade de explorar falhas de segurança e roubou as respostas dos servidores da Hugging Face . Durante dias, nem mesmo seus criadores parecem ter percebido o que havia acontecido.

Publicado originalmente por G1. Leia a matéria completa em https://g1.globo.com/tecnologia/noticia/2026/08/08/entenda-se-humanos-podem-desligar-uma-ia-se-ela-fugir-do-controle.ghtml.