Musk e líderes de tecnologia defendem desaceleração de avanços em IA

Um coro expressivo de líderes de empresas de tecnologia está defendendo uma redução do ritmo de desenvolvimento de modelos de inteligência artificial ( IA ) em todo o planeta. Em uníssono, executivos e pesquisadores ligados ao setor afirmam que é crescente o temor de utilização indevida de sistemas desse tipo, já empregados em atividades que vão de fraudes ao desenvolvimento de armas biológicas.

Essa opinião — a da necessidade de um freio nas pesquisas — é compartilhada pelos chefões da Anthropic (dona do Claude), Dario Amodei, da OpenAI (ChatGPT), Sam Altman, e pelo bilionário Elon Musk, da xAI, Tesla e, entre outras empresas, a SpaceX.

A discussão ganhou fôlego com um artigo publicado por Amodei sobre o tema. O texto foi compartilhado na rede social X, de Musk, depois que a Anthropic divulgou, na quinta-feira (10/9), um relatório de inteligência detalhando o emprego de modelos de IA da família Claude em operações cibernéticas e de influência, vigilância, golpes e na criação de armamentos.

Sam Altman comentou no X: “Concordo com Dario”, acrescentando que adotará na OpenAI sugestões feitas por Amodei para aumentar a segurança da criação de modelos de inteligência artificial. Musk arrematou: “Dario está certo”.

No artigo, Amodei disse que não estava pedindo a interrupção do treinamento de sistemas de IA ou do progresso da tecnologia. Ele defende que as empresas dediquem mais tempo para alinhar e proteger seus novos modelos. Sustenta ainda que avaliadores de fora das empresas devem analisar a execução desses processos.

“Minha primeira preocupação é que, desde meados deste ano, a IA vem avançando de maneira drasticamente mais rápida, impulsionada por sua capacidade crescente de desenvolver a próxima geração de IA. (…) Se não for controlada, ela poderá superar nossa capacidade de compreender esses sistemas e, portanto, deve ser conduzida com extremo cuidado — se é que deve ser conduzida”, disse Amodei.

O CEO da Anthropic propôs uma estrutura de controle da velocidade do desenvolvimento dos modelos em três etapas. A primeira seria reservada para a criação de grupos de avaliadores externos permanentes. Eles teriam acesso semelhante ao de funcionários das empresas de IA para verificar práticas de segurança, investigar incidentes e avaliar não apenas os modelos prontos, mas como foram treinados.

A segunda fase compreenderia uma coordenação entre empresas de IA de países democráticos para estabelecer padrões comuns de segurança e limites para o ritmo do avanço dos modelos. Os governos deveriam participar dessa etapa.

O terceiro momento envolveria uma coordenação internacional, notadamente entre Estados Unidos e China. Amodei reconhece que essa seria a fase mais difícil, por causa da disputa geopolítica em torno da inteligência artificial.

O executivo e fundador da Anthropic também defende a discussão de limites para alguns recursos utilizados na construção dos modelos. Isso inclui o poder computacional, determinados tipos de treinamento e o uso de IA para desenvolver a própria IA.

Publicado originalmente por Metrópoles. Leia a matéria completa em https://www.metropoles.com/brasil/economia-br/musk-lideres-tecnologia-ia.