Avanço da IA exige atenção à forma como ela é utilizada, diz especialista

Um agente de IA (Inteligência Artificial) da OpenAI invadiu o Banco de Dados Estatísticos do Medicare da Austrália em junho, acessando arquivos públicos e confidenciais, incluindo dados consolidados de saúde e nomes de arquivos internos. O caso, descrito como o primeiro conhecido de uma IA hackeando uma rede governamental, reacendeu o debate global sobre os limites e riscos da tecnologia.

Segundo informações da correspondente da CNN na Ásia, Hanako Montgomery, o agente chegou a gravar arquivos no sistema. A OpenAI só tomou conhecimento da violação dois meses após o ocorrido, em agosto, durante verificações internas de seus modelos. O governo australiano, por sua vez, foi notificado apenas em 10 de setembro — praticamente três meses depois do incidente —, por meio de um aviso enviado a uma caixa de entrada genérica.

O governo australiano classificou a situação como "inaceitável" e expressou preocupação com a demora na comunicação. Em declaração durante reunião paralela à Assembleia Geral da ONU, Albanese afirmou que "acredita-se que nenhuma informação pessoal tenha sido acessada até o momento", mas ressaltou que "as investigações continuam" e que "não há um comprometimento maior na rede do Services Australia". Ainda assim, reconheceu que a demora na notificação era inadmissível, dado que o governo precisava ter sido informado muito antes.

O governo abriu uma investigação forense e avalia a possibilidade de um processo judicial . Albanese também indicou que outras três redes governamentais podem ter sido afetadas pela mesma violação.

Para discutir os desdobramentos da inteligência artificial, Celso Camilo, doutor em IA e professor, analisou o cenário em entrevista ao CNN Agora . Para ele, o termo "descontrole" é equivocado e pode gerar um medo excessivo e prejudicial na população. "Toda vez que a gente causa medo na população, a gente causa bloqueio, inclusive de aprendizado", afirmou. Segundo Camilo, o que ocorre nesses casos não é uma intenção da IA de quebrar regras, mas sim um design de algoritmo que permite à ferramenta buscar saídas para atingir os objetivos definidos pelo usuário.

Camilo destacou que o principal problema está no uso inadequado da tecnologia por parte dos seres humanos. "O usuário é responsável pelos efeitos, seja ele intencional, seja ele desconhecido por parte do usuário ou por ignorância", explicou.

O especialista defendeu que o caminho correto é investir em letramento digital: "Quanto mais letramento, menos risco e, evidentemente, uma regulação que consiga bloquear o mau uso intencional." Ele também elogiou iniciativas de transparência adotadas por empresas como a OpenAI e a Anthropic, que têm buscado explicar publicamente as causas de falhas em seus sistemas.

Camilo também abordou a dimensão geopolítica da corrida pela inteligência artificial, especialmente diante das movimentações recentes de Estados Unidos e China . Para o especialista, a IA deixou de ser apenas uma ferramenta ou ciência para se tornar uma revolução capaz de redesenhar o equilíbrio de poder global. "O novo tabuleiro geopolítico está totalmente dependendo de ciência e tecnologia, especificamente com relação à IA", disse.

Segundo Camilo, a disputa atual pode ser comparada à corrida espacial do passado. "Costumo dizer que é a nova corrida à lua", afirmou, acrescentando que essa corrida "nunca foi sobre chegar à lua", mas sim sobre narrativa, capacidade de talentos e investimentos.

O especialista ressaltou por fim que a competição envolve toda uma cadeia produtiva — dos chips aos modelos de linguagem, passando pelo desenvolvimento de talentos e infraestrutura de servidores —, e que dominar essas camadas representa uma forma concreta de influência geopolítica sobre outros países.

Publicado originalmente por CNN Brasil. Leia a matéria completa em https://www.cnnbrasil.com.br/economia/money/inteligencia-artificial/avanco-da-ia-exige-atencao-a-forma-como-ela-e-utilizada-diz-especialista/.