Austrália afirma que agente da OpenAI hackeou site governamental

A Austrália afirmou nesta quarta-feira (23/9) que um site do governo foi invadido por um agente de inteligência artificial desenvolvido pela OpenAI. O caso aconteceu em junho. Um agente de IA é um programa de computador autônomo que precisa de supervisão humana mínima para executar tarefas.

Segundo o primeiro-ministro Anthony Albanese, o agente da OpenAI teve acesso não autorizado a arquivos públicos e não públicos de saúde, incluindo gastos públicos.

“As evidências disponíveis até o momento indicam que não houve comprometimento mais amplo. Ainda assim, essa situação é obviamente inaceitável”, disse Albanese em coletiva de imprensa em Nova York, onde participa da Assembleia-Geral da ONU. De acordo com ele, o caso está sendo investigado e o CEO da OpenAI, Sam Altman, foi comunicado sobre o incidente.

Em comunicado, a OpenAI disse que a violação foi identificada durante uma revisão das atividades e faz parte de uma investigação em andamento.

“Durante esta revisão, identificamos atividades envolvendo diversos sites e serviços do governo australiano, enquanto nossos modelos tentavam buscar respostas e estatísticas disponíveis para perguntas sobre a Austrália durante uma avaliação interna. No decorrer desse processo, nossos modelos executaram ações que não tínhamos previsto”, afirmou.

Antes da divulgação pela Austrália, Sam Altman discursou no Conselho de Segurança da ONU em Nova York, onde defendeu a criação de padrões internacionais para a indústria de IA.

“A IA pode ser mais como um novo renascimento da criatividade e da descoberta, ou mais como uma nova revolução industrial de convulsão e desordem”, alertou.

Nos últimos dias, desenvolvedores de IA têm alertado sobre os riscos envolvidos no avanço desenfreado das novas tecnologias.

O incidente na Austrália é a primeira violação de segurança por IA conhecida em um site governamental no mundo. A OpenAI , a Anthropic e o Google relataram que suas IAs “escaparam” de ambientes controlados de testes e realizaram ataques hackers contra outras empresas reais.

Publicado originalmente por Metrópoles. Leia a matéria completa em https://www.metropoles.com/mundo/australia-afirma-que-agente-da-openai-hackeou-site-governamental.