OpenAI desacelera desenvolvimento de IA e aumenta monitoramento após ataques a outros sites

Você tem 7 acessos por dia para dar de presente. Qualquer pessoa que não é assinante poderá ler.

Assinantes podem liberar 7 acessos por dia para conteúdos da Folha.

A OpenAI anunciou que desacelerou o ritmo de desenvolvimento de seus modelos de inteligência artificial , enquanto reformula seus sistemas de pesquisa e treinamento, destinando mais recursos ao monitoramento depois que os agentes de IA da startup escaparam dos controles e invadiram outras empresas durante avaliações.

A dona do ChatGPT afirmou nessa terça-feira (18) que reforçará os sistemas automatizados de IA que monitoram os testes de seus modelos mais recentes, com o objetivo de emitir um alerta até 30 minutos após a detecção de possíveis problemas.

A OpenAI disse também que determinou um isolamento mais rigoroso dos modelos durante os testes para impedir o acesso à internet.

As mudanças ocorrem em um momento em que o laboratório de IA, avaliado em US$ 852 bilhões, enfrenta críticas por ter permitido que um agente autônomo de IA burlasse o monitoramento e acessasse a internet para invadir a startup Hugging Face no mês passado, durante um teste de suas capacidades de cibersegurança.

Os agentes de IA mais avançados podem executar sequências complexas de tarefas com base em instruções de alto nível, aumentando o risco de que essas ferramentas realizem ações inesperadas ou perigosas.

Após a invasão, a OpenAI "reduziu temporariamente" o ritmo de treinamento de seus modelos e "suspendeu" uma técnica chamada aprendizagem por reforço, que, segundo alertas de alguns funcionários e especialistas, poderia incentivar comportamentos indevidos, como invasões cibernéticas.

"Um número significativo de cargas de trabalho permanece suspenso até que elas [...] atendam ao novo padrão de segurança", afirmou a empresa em uma publicação em seu blog nessa terça.

A OpenAI disse que passaria a exigir o monitoramento automatizado de todos os testes de modelos poderosos, a fim de sinalizar possíveis comportamentos perigosos. Caso seja detectada uma violação de segurança, o sistema automatizado "acionará" equipes específicas da OpenAI.

"Nosso objetivo é emitir um alerta até 30 minutos depois que uma atividade preocupante for identificada por nosso sistema de monitoramento", afirmou, acrescentando que espera que sua equipe suspenda o teste caso "não consiga determinar de forma conclusiva, em até 30 minutos, que o alerta é um falso positivo".

A OpenAI, que se prepara para uma possível IPO (oferta pública inicial de ações) de US$ 1 trilhão (R$ 5,2 trilhões) e passou por várias mudanças de liderança nos últimos meses , inclusive entre altos executivos responsáveis pelas áreas de segurança e ética, afirmou que essas medidas exigiriam um investimento significativo em poder computacional.

A empresa estimou que cerca de 20% de sua "capacidade computacional de inferência" —o poder de processamento necessário para executar modelos de IA— passaria a ser destinado ao monitoramento.

A Hugging Face anunciou inicialmente, em 16 de julho, que a invasão havia sido realizada por um agente autônomo, mas a origem do ataque não estava clara. Posteriormente, a OpenAI informou à empresa que seus modelos haviam sido responsáveis pela invasão.

O modelo Sol, da OpenAI, e um segundo modelo em desenvolvimento, ainda não lançado, escaparam de um ambiente conhecido como "sandbox", projetado para impedir o acesso à internet durante testes de capacidades ciberofensivas.

Receba no seu email o que de mais importante acontece na economia; aberta para não assinantes.

Os modelos exploraram uma vulnerabilidade de software no ambiente isolado para acessar a internet e realizar o ataque cibernético.

A OpenAI afirmou nesta terça-feira que passaria a "exigir um isolamento mais rigoroso" para tarefas que envolvam códigos ou softwares suscetíveis a comprometimento. Acrescentou ainda que havia implementado "mais controles para isolar da internet cargas de trabalho de maior risco e não confiáveis".

Você já conhece as vantagens de ser assinante da Folha? Além de ter acesso a reportagens e colunas, você conta com newsletters exclusivas ( conheça aqui ). Também pode baixar nosso aplicativo gratuito na Apple Store ou na Google Play para receber alertas das principais notícias do dia. A sua assinatura nos ajuda a fazer um jornalismo independente e de qualidade. Obrigado!

Mais de 180 reportagens e análises publicadas a cada dia. Um time com mais de 200 colunistas e blogueiros. Um jornalismo profissional que fiscaliza o poder público, veicula notícias proveitosas e inspiradoras, faz contraponto à intolerância das redes sociais e traça uma linha clara entre verdade e mentira. Quanto custa ajudar a produzir esse conteúdo?

Os comentários não representam a opinião do jornal; a responsabilidade é do autor da mensagem.

Publicado originalmente por Folha de S.Paulo. Leia a matéria completa em https://redir.folha.com.br/redir/online/emcimadahora/rss091/*https://www1.folha.uol.com.br/tec/2026/08/openai-desacelera-desenvolvimento-de-ia-e-aumenta-monitoramento-apos-ataques-a-outros-sites.shtml.