Mark Zuckerberg critica apelos para desacelerar desenvolvimento da IA

O CEO da Meta, Mark Zuckerberg, participa de um painel gravado ao vivo no *Acquired*, um podcast de tecnologia, no Chase Center em São Francisco, Califórnia, EUA, em 10 de setembro de 2024. REUTERS/Laure Andrillon

O CEO da Meta, Mark Zuckerberg, criticou apelos recentes para suspender ou desacelerar o desenvolvimento da inteligência artificial (IA), dizendo que cada laboratório tem a responsabilidade e o incentivo de avançar no ritmo necessário para treinar seus modelos com segurança. A declaração foi feita em uma publicação no X na noite desta terça-feira, após alertas de executivos de tecnologia sobre os riscos do avanço acelerado da IA e a necessidade de reforçar mecanismos de segurança.

Segundo Zuckerberg, a dinâmica de mercado cria um incentivo para que as empresas tornem seus sistemas mais confiáveis e alinhados às preferências dos usuários. “As pessoas não vão querer usar agentes que estejam desalinhados com elas e que não façam o que elas pedem, então os laboratórios têm um forte incentivo natural para tornar seus modelos mais alinhados”, escreveu.

Ele observou que há debate sobre desacelerar o progresso das capacidades até que o alinhamento acompanhe, mas afirmou que confiança e alinhamento rapidamente se tornam os fatores mais importantes para diferenciar agentes e modelos. “Qualquer laboratório que não foque em alinhamento ficará para trás”, disse.

Zuckerberg também afirmou que os laboratórios enfrentam responsabilidade significativa caso seus modelos causem danos, o que, segundo ele, reforça o incentivo para prevenir problemas. Como exemplo, citou a decisão da Meta de adiar por vários meses o lançamento do sistema Muse para priorizar segurança e proteção.

O executivo disse ainda que recorrer a avaliadores e consultores independentes é uma boa prática do setor e que a Meta Superintelligence Labs (MSL) já faz isso em várias áreas. Ele defendeu, de forma mais ampla, um ecossistema de avaliadores “maior e mais diverso”.

Por fim, Zuckerberg defendeu que direcionar a grande maioria do poder computacional para servir as pessoas, em vez de “correr” para o autoaprimoramento recursivo, é uma das melhores formas de garantir um desenvolvimento seguro da tecnologia, acrescentando que a Meta assumiu esse compromisso e que outros laboratórios podem fazer o mesmo.

The post Mark Zuckerberg critica apelos para desacelerar desenvolvimento da IA appeared first on InfoMoney .

Publicado originalmente por InfoMoney. Leia a matéria completa em https://www.infomoney.com.br/business/mark-zuckerberg-critica-apelos-para-desacelerar-desenvolvimento-da-ia/.