Segurança de agentes de IA é engenharia solucionável, diz CEO da Nvidia

O presidente-executivo da Nvidia , Jensen Huang, afirmou que a segurança dos sistemas de IA (Inteligência Artificial) com agentes autônomos é um problema de engenharia solucionável e defendeu que essas ferramentas operem com o mínimo possível de permissões e acessos.

Em entrevista à CNBC , Huang disse que a IA tem potencial para gerar grandes benefícios, mas precisa ser desenvolvida e implementada de forma segura para que o público confie na tecnologia.

"Acredito que é um problema de engenharia. Sei que é um problema de engenharia", afirmou, acrescentando que se trata de uma questão "tecnicamente solucionável".

Segundo o executivo, a principal medida ao implementar um agente de IA deve ser retirar inicialmente todas as suas permissões e depois conceder apenas os acessos necessários para a execução de cada tarefa.

"A prioridade número um é retirar todos os seus direitos", disse. Huang comparou o modelo de segurança ao funcionamento de navegadores, que isolam aplicações e limitam o acesso a arquivos, redes e outros recursos.

O CEO da companhia afirmou que a Nvidia está criando, com o OpenShell, uma espécie de "navegador para agentes", voltado à contenção, provisão de permissões e monitoramento dos sistemas. O projeto é de código aberto e, segundo Huang, conta com apoio de cerca de 100 empresas.

Huang também defendeu cautela na regulação de tecnologias ainda em rápida evolução. Para ele, "seria uma pena regular antes de compreender" plenamente a indústria, embora tenha afirmado que a intensidade da regulação deve aumentar à medida que a tecnologia amadurece.

Publicado originalmente por CNN Brasil. Leia a matéria completa em https://www.cnnbrasil.com.br/economia/money/inteligencia-artificial/seguranca-de-agentes-de-ia-e-engenharia-solucionavel-diz-ceo-da-nvidia/.