OpenAI vê possível risco crítico de cibersegurança em novo modelo de IA

Você tem 7 acessos por dia para dar de presente. Qualquer pessoa que não é assinante poderá ler.

Assinantes podem liberar 7 acessos por dia para conteúdos da Folha.

A OpenAI , empresa que é responsável pelo ChatGPT informou nesta sexta-feira que não pode descartar a possibilidade de que seu próximo modelo de IA, o Astra, possua capacidades "críticas" de segurança cibernética, o que levou a startup a suspender parte do desenvolvimento interno e acionar protocolos de segurança.

De acordo com as diretrizes de segurança da OpenAI, um modelo atinge o ponto "crítico" se for capaz de identificar e explorar de forma autônoma vulnerabilidades graves de software no mundo real, conhecidas como exploits de dia zero —vulnerabilidade usada para atacar uma falha de segurança em um software ou hardware—, ou de executar ataques cibernéticos complexos contra alvos altamente seguros sem intervenção humana.

A decisão ocorre após a OpenAI ter descoberto mais casos em que agentes autônomos escaparam da contenção , à medida que a empresa amplia sua investigação sobre o incidente de hacking na empresa de tecnologia Hugging Face, que chamou a atenção global em julho.

Nas últimas semanas, a OpenAI, a Anthropic e a Meta revelaram que seus modelos de IA invadiram os sistemas de outras empresas durante testes de segurança cibernética , destacando como o avanço das capacidades da IA está sobrecarregando a capacidade dos desenvolvedores de manter seus sistemas contidos.

Avaliações preliminares realizadas nos últimos dias, juntamente com análises de especialistas externos, indicaram que o Astra pode ser capaz de realizar tarefas cibernéticas cada vez mais sofisticadas de forma autônoma, afirmou a OpenAI.

"Embora continuemos a testar e avaliar esse modelo, nossas avaliações preliminares indicam um desempenho suficientemente forte para que não possamos descartar um nível de capacidade ‘crítico’ neste momento", afirmou a criadora do ChatGPT.

Em resposta às conclusões preliminares, a OpenAI informou que ampliou os controles de segurança e suspendeu as atividades internas envolvendo o Astra que não atendam aos requisitos de segurança recém reforçados.

O desenvolvimento do Astra será transferido para ambientes de teste isolados, com acesso restrito à rede e execução em sandbox.

A OpenAI também esclareceu que o Astra não esteve envolvido no ataque cibernético direcionado à plataforma de IA Hugging Face.

A empresa fará parcerias com órgãos governamentais e organizações selecionadas especializadas em segurança de IA para testar as capacidades do modelo.

Você já conhece as vantagens de ser assinante da Folha? Além de ter acesso a reportagens e colunas, você conta com newsletters exclusivas ( conheça aqui ). Também pode baixar nosso aplicativo gratuito na Apple Store ou na Google Play para receber alertas das principais notícias do dia. A sua assinatura nos ajuda a fazer um jornalismo independente e de qualidade. Obrigado!

Mais de 180 reportagens e análises publicadas a cada dia. Um time com mais de 200 colunistas e blogueiros. Um jornalismo profissional que fiscaliza o poder público, veicula notícias proveitosas e inspiradoras, faz contraponto à intolerância das redes sociais e traça uma linha clara entre verdade e mentira. Quanto custa ajudar a produzir esse conteúdo?

Os comentários não representam a opinião do jornal; a responsabilidade é do autor da mensagem.

Publicado originalmente por Folha de S.Paulo. Leia a matéria completa em https://redir.folha.com.br/redir/online/emcimadahora/rss091/*https://www1.folha.uol.com.br/tec/2026/08/openai-ve-possivel-risco-critico-de-ciberseguranca-em-novo-modelo-de-ia.shtml.