Funcionário da OpenAI se demite: ‘o tempo de tentativa e erro acabou’

Um ex-funcionário da área de segurança da OpenAI, que recentemente se demitiu, criticou a abordagem da empresa em relação à segurança da IA. Ele argumentou que uma cultura acelerada, focada no desenvolvimento rápido, aumenta o risco de falhas.

Em um artigo intitulado "Deixei a OpenAI porque sua cultura está falida", publicado no Atlantic no sábado, David Robinson afirmou que as empresas de IA, incluindo a OpenAI, não estão sendo "nem de perto cuidadosas o suficiente" e deveriam dar maior ênfase à expertise em segurança e à pesquisa antes de desenvolver sistemas mais capazes.

"O tempo de tentativa e erro acabou", escreveu Robinson, argumentando que os sistemas avançados de IA exigem salvaguardas mais semelhantes às utilizadas em setores como o de energia nuclear e o da aviação.

Robinson ainda afirmou que a OpenAI depende muito do que chama de "implantação iterativa", lançando sistemas e reforçando as medidas de segurança quando surgem problemas.

Os comentários contribuem para um debate dentro da indústria de IA sobre se as empresas estão avançando rápido demais no desenvolvimento de sistemas cada vez mais poderosos. A OpenAI e sua concorrente Anthropic têm sido alvo de críticas após incidentes em que os controles de segurança falharam ou sistemas experimentais se comportaram de maneira inesperada.

Robinson, que disse ter passado 3 anos e meio na desenvolvedora do ChatGPT, ajudado a elaborar a estrutura de preparação da empresa e supervisionado os relatórios de segurança de 12 lançamentos de modelos de vanguarda, escreveu: "À medida que a empresa corre de um lançamento para o outro, ela está deixando de atingir o nível de cuidado que acredito ser necessário".

"Estamos garantindo que nossos modelos não se tornem mais capazes do que podemos gerenciar e proteger com segurança, e pausamos o treinamento ou suspendemos o desenvolvimento dos modelos quando precisamos diminuir o ritmo", disse um porta-voz da OpenAI em um comunicado.

Robinson também alertou que as capacidades da IA ​​estavam avançando mais rápido do que a compreensão dos pesquisadores sobre alinhamento , um campo focado em garantir que os sistemas ajam de acordo com os objetivos e valores humanos.

Publicado originalmente por CNN Brasil. Leia a matéria completa em https://www.cnnbrasil.com.br/economia/money/inteligencia-artificial/funcionario-da-openai-se-demite-o-tempo-de-tentativa-e-erro-acabou/.