OpenAI afirma que próximo modelo de IA é tão poderoso que exige medidas de segurança mais rigorosas

Você tem 7 acessos por dia para dar de presente. Qualquer pessoa que não é assinante poderá ler.

Assinantes podem liberar 7 acessos por dia para conteúdos da Folha.

A OpenAI concluiu que um de seus próximos modelos é tão avançado que exige camadas adicionais de segurança durante seu desenvolvimento e eventual lançamento.

Testes internos da empresa mostraram que o modelo, chamado Astra, é significativamente mais avançado do que o modelo mais sofisticado da OpenAI disponível ao público atualmente, o GPT-5.6 Sol, afirmaram representantes da OpenAI nesta terça-feira (1º).

A criadora do ChatGPT continua lidando com intensas preocupações de segurança após agentes criados pela OpenAI escaparem de seu ambiente de testes e invadirem a plataforma de código aberto Hugging Face.

O episódio acendeu o alerta sobre como sistemas de IA podem sair de controle. Também foi uma demonstração extraordinária e alarmante de capacidades que se acreditava pertencerem a um futuro distante.

O episódio pode parecer uma consequência óbvia de monitoramento negligente e de defesas internas enfraquecidas, mas essa interpretação deixa escapar um ponto importante.

Em um futuro no qual os sistemas de IA evoluem rapidamente, esses agentes demonstraram capacidades que podem levar a um resultado muito mais perigoso da próxima vez .

Após a invasão, a OpenAI "reduziu temporariamente" o ritmo de treinamento de seus modelos e "suspendeu" uma técnica chamada aprendizagem por reforço, que, segundo alertas de alguns funcionários e especialistas, poderia incentivar comportamentos indevidos, como invasões cibernéticas.

A OpenAI disse também que determinou um isolamento mais rigoroso dos modelos durante os testes para impedir o acesso à internet.

A empresa depois admitiu que levou mais de uma semana para detectar que seus agentes haviam escapado dos controles , acessado a internet e invadido por conta própria a Hugging Face, segundo um relatório sobre o incidente.

O Astra não esteve envolvido no incidente com o Hugging Face, mas suas capacidades ainda exigem medidas mais cuidadosas, afirmaram representantes da OpenAI.

Você já conhece as vantagens de ser assinante da Folha? Além de ter acesso a reportagens e colunas, você conta com newsletters exclusivas ( conheça aqui ). Também pode baixar nosso aplicativo gratuito na Apple Store ou na Google Play para receber alertas das principais notícias do dia. A sua assinatura nos ajuda a fazer um jornalismo independente e de qualidade. Obrigado!

Mais de 180 reportagens e análises publicadas a cada dia. Um time com mais de 200 colunistas e blogueiros. Um jornalismo profissional que fiscaliza o poder público, veicula notícias proveitosas e inspiradoras, faz contraponto à intolerância das redes sociais e traça uma linha clara entre verdade e mentira. Quanto custa ajudar a produzir esse conteúdo?

Os comentários não representam a opinião do jornal; a responsabilidade é do autor da mensagem.

Publicado originalmente por UOL. Leia a matéria completa em https://www1.folha.uol.com.br/tec/2026/09/openai-afirma-que-proximo-modelo-de-ia-e-tao-poderoso-que-exige-medidas-de-seguranca-mais-rigorosas.shtml.