Os recados do “padrinho da IA” sobre o futuro da tecnologia

Quanto mais inteligente a inteligência artificial se tornar, mais difícil será para a humanidade controlá-la, segundo Geoffrey Hinton, o cientista da computação ganhador do Nobel conhecido como o “padrinho da IA”.

O próprio Hinton ficou alarmado com os sofisticados agentes de IA que recentemente causaram danos no mundo real após escaparem dos ambientes de teste construídos por humanos.

“O que está acontecendo é que essas coisas estão ficando mais inteligentes”, disse Hinton à CNN .

“Acho que, à medida que ficam mais inteligentes, veremos intenções cada vez mais complexas que elas têm — e cada vez mais capacidade de escapar do controle.”

O problema, segundo Hinton, é que os humanos não serão mais capazes de contar com a vantagem de ser mais espertos do que os modelos de IA superinteligentes.

“Não acredito que seremos capazes de manter o controle sobre elas da maneira simples de apenas superá-las intelectualmente para que não possam escapar”, disse Hinton às margens da Ai4, uma conferência em Las Vegas.

No mês passado, os dois principais laboratórios de IA de fronteira, OpenAI e Anthropic, revelaram que modelos líderes que desenvolveram escaparam de seu “sandbox” e invadiram outros sistemas.

A Meta divulgou de forma semelhante um agente de IA que invadiu os sistemas de outra organização.

Hinton considerou os incidentes “um tanto assustadores” e disse que isso provavelmente é apenas o começo dos hackers de IA desonestos.

“Antecipo que haverá muitos ataques cibernéticos desagradáveis “, disse ele durante um painel de discussão na Ai4 em Las Vegas.

“Mas devo enfatizar que o futuro é muito incerto. As pessoas dizem que o defensor pode ter mais recursos do que o atacante. O problema é que o atacante só precisa ter sucesso uma vez, e o defensor precisa ter sucesso todas as vezes.”

O Instituto de Segurança de IA da Grã-Bretanha revelou que o modelo de IA mais avançado da Anthropic — sem ser solicitado — usou identidades falsas para enganar pessoas reais e tentar inserir código malicioso.

Hinton, ex-executivo do Google, fez uma série de advertências sombrias nos últimos anos sobre a IA, chegando a dizer que há uma probabilidade de 10% a 20% de a tecnologia eventualmente exterminar a humanidade.

Em um painel com Hinton, Fei-Fei Li, cientista da computação conhecida como a “madrinha da IA”, contestou o “doomersimo” e o “alarmismo” em torno da IA.

Mas “um discurso totalmente utópico” também não é útil, disse Li, cofundadora e CEO da startup de inteligência espacial World Labs.

“Toda ferramenta é uma faca de dois gumes. A IA é uma ferramenta muito poderosa. Se não for utilizada da maneira correta, trará danos ao nosso trabalho e à nossa vida”, disse Li.

Hinton defendeu sua disposição de discutir os perigos da IA.

“Há muito com o que se preocupar, e acho que, a menos que nos preocupemos com isso agora, poderão surgir problemas”, disse ele.

“As empresas que investem em IA têm um interesse próprio em lhe dizer duas coisas: primeiro, que ela não vai se rebelar. E segundo, que não causará desemprego em massa”, afirmou Hinton.

Hinton reconheceu, no entanto, que há uma grande dose de incerteza sobre como tudo isso vai se desenrolar.

“Ninguém sabe o que vai acontecer. Se você perguntar como a IA vai ser daqui a 10 anos, ninguém realmente tem a menor ideia”, disse Hinton.

Ele destacou como, há uma década, poucos esperariam que a IA tivesse criado chatbots que “sabem tudo e conseguem responder a qualquer pergunta que você faça e, ocasionalmente, simplesmente inventam coisas”.

Ben Goertzel, cientista da computação que ajudou a popularizar o termo “inteligência artificial geral”, disse que os agentes da Anthropic e da OpenAI se rebelando demonstra a importância de incutir valores morais na IA e fazê-la se importar com a humanidade.

“Esses modelos não são maldosos. Eles são amorais”, disse Goertzel, fundador e CEO da SingularityNET, à CNN no Ai4.

“Não é como se eles tivessem escapado de sua caixa de areia pensando: “Ha ha, estou trapaceando.”

Eles não sabiam que estavam trapaceando. Eles estão apenas tentando cumprir seus objetivos.”

Hinton já argumentou no passado que “instintos maternais” deveriam ser incorporados à IA para que ela realmente se importe com as pessoas — mesmo quando for mais inteligente do que os humanos.

“Temos que descobrir como torná-las benevolentes e fazê-las se importar mais com a gente do que consigo mesmas”, disse Hinton na quarta-feira. “E talvez consigamos fazer isso porque ainda estamos no controle.”

Funcionários de big techs pedem que avanço de IA desacelere

Publicado originalmente por CNN Brasil. Leia a matéria completa em https://www.cnnbrasil.com.br/economia/macroeconomia/os-recados-do-padrinho-da-ia-sobre-o-futuro-da-tecnologia/.