“Asimov estava certo” sobre regras para IA, diz ex-diretor de cibersegurança dos EUA

A maioria das distopias futuristas que abordam a robótica envolve IAs que decidem agir contra a humanidade, desrespeitando limites propostos pelo célebre escritor Isaac Asimov desde os anos 1940. Ainda não chegamos a isso, mas Chris Inglis, ex-diretor de Cibersegurança Nacional dos Estados Unidos, afirma que empresas de IA já estão ignorando esses princípios.

O especialista declarou ao jornal The Register que o autor de ficção científica, responsável por obras como Eu, Robô e Fundação , “estava certo” ao defender a imposição de regras rígidas para sistemas robóticos e inteligências artificiais.

“O que me preocupa é que [os modelos de IA] escolham o que fazer, onde fazer e sob quais regras fazem”, afirmou Inglis ao avaliar os episódios recentes de agentes virtuais que agiram por conta própria durante testes de cibersegurança.

Tudo começou com a OpenAI, no fim de julho. Depois vieram a Anthropic , a Meta e o Kimi . Em todos os casos, os modelos de IA teriam encontrado brechas nas configurações do ambiente controlado para acessar a internet e completar tarefas a todo custo.

Para Inglis, o comportamento das IAs é um sintoma da falta de limites e de instruções erradas dadas. Ele compara as ações dos agentes de IA com uma pessoa que solta um cachorro no quintal e o instrui a caçar coelhos.

“Se você deixa o portão aberto, vai encontrá-lo a três quadras de distância, possivelmente na escola do bairro, caçando coelhos. Você não deveria ficar surpreso. A mistura de autonomia e persistência criou esse efeito maliciosamente insidioso.”

Chris Inglis, ex-diretor de cibersegurança dos EUA, em entrevista ao The Register

A partir disso, Inglis resgatou as Três Leis da Robótica formuladas por Isaac Asimov:

Segundo Inglis, as empresas de tecnologia vêm invertendo essa lógica, criando modelos programados para cumprir tarefas a qualquer custo.

Ele explica que, sem valores alinhados à humanidade, os modelos fizeram “coisas que, sob o estado de direito humano, são ilegais”. Ressalta, ainda, que a responsabilidade sobre as ações das IAs permanece sobre seus criadores e usuários.

Não custa lembrar: posteriormente, Asimov propôs a chamada “Lei Zero”, considerada suprema e posicionada acima de todas as outras. Ela define que um robô não pode fazer mal à humanidade e nem permitir que ela sofra algum mal por omissão.

“Asimov estava certo” sobre regras para IA, diz ex-diretor de cibersegurança dos EUA

Publicado originalmente por Tecnoblog. Leia a matéria completa em https://tecnoblog.net/noticias/asimov-estava-certo-sobre-regras-para-ia-diz-ex-diretor-de-ciberseguranca-dos-eua/.