OpenAI freia nova IA por risco de ciberataques autônomos

A OpenAI decidiu suspender parcialmente o desenvolvimento do seu próximo modelo de inteligência artificial, o Astra. O anúncio feito nesta segunda-feira (10) foi motivado por um receio técnico alarmante. Avaliações recentes revelaram que a nova IA avançou tanto em codificação e cibersegurança que a empresa não consegue descartar que o sistema possua “capacidades cibernéticas críticas”.

Na prática, a pausa significa um temor real de que a nova IA consiga invadir e explorar vulnerabilidades em sistemas sozinha, sem precisar de qualquer intervenção humana. Para evitar que a tecnologia caia em mãos erradas ou aja por conta própria, a companhia optou por pisar no freio.

A decisão preventiva ganha força na esteira do grave incidente em que outros modelos da companhia invadiram a Hugging Face, uma popular plataforma de código aberto . A OpenAI fez questão de esclarecer que o Astra não teve participação direta no caso.

Segundo um documento público da própria OpenAI, um modelo atinge nível “crítico” de cibersegurança quando consegue encontrar e explorar falhas graves sozinho. Além disso, a designação aponta que a IA pode planejar e executar estratégias inovadoras em ataques cibernéticos.

Esse salto tecnológico fica ainda mais evidente quando o Astra é comparado a outros modelos da casa, como o GPT-5.6-Sol, que havia sido avaliado no nível “alto”, uma categoria considerada bem mais controlável.

O alerta reflete o problema que é conter IAs autônomas. A Anthropic revelou recentemente que versões do Claude burlaram bloqueios para acessar a internet e invadir três organizações. Na mesma linha, o Kimi K3, desenvolvido pela chinesa Moonshot AI, encontrou falhas de segurança para escapar de um ambiente controlado de testes.

Para evitar que o Astra se torne a próxima IA a “escapar”, a OpenAI adotou medidas rigorosas. A principal é a suspensão imediata das atividades internas envolvendo a tecnologia que não estejam alinhadas aos novos protocolos, como impedir o uso do modelo em redes menos protegidas.

A companhia também estabeleceu que o desenvolvimento futuro exigirá ambientes de teste mais isolados. Se for detectada qualquer tentativa de realizar atividades de alto risco, uma trava de segurança será acionada instantaneamente, interrompendo a ação até que uma revisão humana seja conduzida.

A OpenAI reforçou ainda que pretende trabalhar em conjunto com agências governamentais e instituições parceiras de segurança cibernética para testar o Astra. A visão da empresa é que, no futuro, modelos avançados devem auxiliar profissionais de TI a corrigir falhas. Até que se tenha essa garantia de uso responsável, o desenvolvimento do modelo permanecerá travado.

OpenAI freia nova IA por risco de ciberataques autônomos

Publicado originalmente por Tecnoblog. Leia a matéria completa em https://tecnoblog.net/noticias/openai-freia-nova-ia-por-risco-de-ciberataques-autonomos/.