GPT-6 Astra: entenda o que torna o novo modelo um risco em cibersegurança

O GPT- 6 Astra é o novo modelo de linguagem (LLM) da OpenAI e, segundo a empresa, é o primeiro de seus sistemas a atingir um nível considerado crítico na área de cibersegurança. Mas o que isso realmente significa?

"O GPT-6 Astra reúne anos de pesquisa e grandes apostas em pré-treinamento, aprendizado por reforço e alinhamento. O Astra representa o estado da arte em uso de computadores, navegação na web, engenharia de software, cibersegurança, ciência e trabalho profissional", explica a OpenAI no anúncio oficial do modelo.

A OpenAI afirma que realizou novas avaliações e reuniu mais evidências para analisar as capacidades do Astra. A empresa concluiu que o modelo demonstrou habilidades avançadas o suficiente para ser considerado um risco significativo na área de cibersegurança.

Por exemplo, nas mãos de pessoas mal-intencionadas, a ferramenta poderia auxiliar na descoberta de vulnerabilidades que poderiam ser exploradas para roubar dados ou realizar outras ações maliciosas.

Além disso, o GPT-6 Astra apresenta um alto nível de autonomia na execução de tarefas, o que aumenta os riscos relacionados à cibersegurança.

O modelo não apenas identificou falhas conhecidas, mas também vulnerabilidades que ainda não haviam sido documentadas por especialistas em segurança.

Em um dos testes, o Astra encontrou falhas em um navegador, escapou das proteções e conseguiu executar comandos no computador. Em outra avaliação, identificou vulnerabilidades em um sistema operacional e conseguiu trocar o nível de um usuário comum para acessar os privilégios mais elevados dentro do sistema.

“É o primeiro modelo que classificamos nesse nível e exige proteções mais robustas durante o desenvolvimento e antes do lançamento”, escreveu a OpenAI.

Mesmo com o alerta, o modelo não começará a agir por conta própria para atacar sistemas . Os testes apenas mostraram que ele é capaz de descobrir vulnerabilidades e desenvolver formas de explorá-las com autonomia, sem precisar da orientação constante de uma pessoa em cada etapa do processo.

A empresa explica que já está reforçando o Astra com proteções adicionais para evitar que usuários utilizem o modelo em ações prejudiciais.

Ele foi treinado para recusar determinados pedidos relacionados à descoberta e exploração de vulnerabilidades em sistemas. Inclusive, se uma atividade for interpretada como potencialmente perigosa, a tarefa poderá ser pausada ou interrompida automaticamente.

“O sistema pode ocasionalmente sinalizar atividades legítimas como possível uso cibernético indevido ou comportamento não autorizado, fazendo com que sejam desaceleradas, pausadas ou interrompidas por engano”, a OpenAI acrescenta.

Os testes também mostraram que a nova LLM é mais poderosa que o atual modelo mais avançado do ChatGPT, o GPT-5.6 Sol. Ao receber solicitações consideradas proibidas na área de cibersegurança, o Astra recusou mais de 90% delas, enquanto o GPT-5.6 Sol recusou 59% .

A diferença também está relacionada ao fato de o Astra ter capacidades mais avançadas, o que consequentemente exige mecanismos de proteção mais rígidos.

A OpenAI lançou oficialmente o GPT-6 Astra na última quinta-feira (3), mas o acesso inicial ficou restrito a um grupo limitado de empresas. A novidade gerou reclamações nas redes sociais, já que muitos usuários esperavam ter acesso ao modelo após o anúncio.

Segundo a empresa, o Astra será liberado gradualmente nos próximos dias para usuários dos planos ChatGPT Plus, Pro, Business e Enterprise , além de chegar à API e a outras plataformas.

Publicado originalmente por CNN Brasil. Leia a matéria completa em https://www.cnnbrasil.com.br/economia/money/inteligencia-artificial/gpt-6-astra-entenda-o-que-torna-o-novo-modelo-um-risco-em-ciberseguranca/.