Nvidia lança tecnologia para impedir que agentes de IA se rebelem

Pessoa passa por painel com logomarca da Nvidia na Computex em Taiwan em junho de 2024 — Foto: Ann Wang/Reuters

A Nvidia anunciou nesta segunda-feira (28) uma nova plataforma de segurança que, segundo a fabricante de chips, pode impedir que agentes de inteligência artificial (IA) saiam do controle .

A empresa afirmou que a Open Agent Safety Platform , como é chamada a solução, reúne softwares que estabelecem limites para a atuação dos agentes. O anúncio ocorre após uma série de revelações de grandes empresas de IA sobre modelos que escaparam do controle e invadiram sistemas de outras organizações.

🗒️Tem alguma sugestão de reportagem? Envie para o g1

As divulgações provocaram um intenso debate sobre a segurança de sistemas avançados de IA , incluindo modelos capazes de se aprimorar sozinhos. Há preocupação de que essas tecnologias possam avançar além do controle humano.

Executivos da Nvidia disseram, em uma conversa com jornalistas, que o novo sistema poderia ter evitado um incidente recente envolvendo um grupo de agentes da OpenAI que invadiu de forma autônoma a startup de IA Hugging Face .

Publicado originalmente por G1. Leia a matéria completa em https://g1.globo.com/tecnologia/noticia/2026/09/28/nvidia-lanca-tecnologia-para-impedir-que-agentes-de-ia-se-rebelem.ghtml.