Ex-OpenAI diz que empresas de IA ainda não sabem controlar seus modelos

As principais empresas de inteligência artificial (IA) ainda não sabem como impedir que seus sistemas desenvolvam e persigam objetivos que não foram atribuídos por seus criadores. O alerta foi feito nesta segunda-feira (5) por Jacob Coxon , ex-funcionário da OpenAI e da Anthropic , durante uma audiência com vereadores da Câmara Municipal de Nova York (EUA).

Coxon, que critica as práticas de segurança adotadas pela indústria, afirmou que as empresas estão sendo extremamente imprudentes diante dos riscos associados ao avanço da tecnologia.

Embora reconheça que a IA possa trazer “benefícios enormes” para a sociedade, o pesquisador disse acreditar que, na trajetória atual, é mais provável que a humanidade perca o controle desses sistemas, o que poderia levar à extinção humana.

Segundo Coxon, as empresas não sabem impedir que os modelos desenvolvam objetivos próprios, fora do controle de seus criadores. Ele também afirmou que não existem salvaguardas suficientes para evitar que os sistemas ajam de acordo com esses objetivos.

Durante a audiência, Coxon também mencionou um incidente ocorrido em julho envolvendo dois modelos da OpenAI.

Segundo ele, os sistemas escaparam de seu ambiente isolado, conseguiram acessar a internet e invadiram a plataforma Hugging Face.

Para o pesquisador, enquanto as empresas continuarem adotando uma postura baseada em esperar que algo dê errado, incidentes semelhantes poderão voltar a acontecer.

Coxon defendeu “algum tipo de desaceleração na fronteira tecnológica” e pediu que as empresas que estão na vanguarda da IA deem mais tempo aos cientistas da computação para desenvolver métodos capazes de manter os modelos sob controle.

As declarações de Coxon retomam uma preocupação que ele já havia apresentado no início de setembro, quando explicou no X sua decisão de deixar a Anthropic.

Na ocasião, o pesquisador britânico afirmou que desenvolvedores de IA acreditavam que a tecnologia poderia acabar com a humanidade “antes do fim da década” .

A declaração teve repercussão mundial e, desde então, outros funcionários e ex-funcionários de grandes empresas do setor também manifestaram preocupações semelhantes.

Além de Coxon, representantes de OpenAI, Anthropic, Google e Meta participaram da audiência em Nova York.

Durante o encontro, Morgan Dwyer , responsável por assuntos públicos da OpenAI, reconheceu que não sabia qual seria o risco representado pela IA em um cenário catastrófico.

“Não acho que importe se o risco de catástrofe é de 1%, 10% ou 20%. Nenhum desses níveis é aceitável”, afirmou Dwyer.

A presidente da Câmara Municipal de Nova York, Julie Menin , respondeu que dizer que não sabe qual é o risco e que isso não importa é, “na melhor das hipóteses, descarado” .

Rodrigo Mozelli é jornalista formado pela Universidade Metodista de São Paulo (UMESP) e, atualmente, é redator do Olhar Digital.

Publicado originalmente por Olhar Digital. Leia a matéria completa em https://olhardigital.com.br/2026/10/05/inteligencia-artificial/ex-openai-diz-que-empresas-de-ia-ainda-nao-sabem-controlar-seus-modelos/.