ChatGPT inventou depoimentos policiais falsos em caso de homicídio nos EUA

O tribunal superior do Novo México, nos EUA, informou que um advogado de defesa que recorre de uma condenação de seu cliente por homicío apresentou um documento com depoimentos policiais e testemunhas inventadas, criadas pelo ChatGPT.

A Suprema Corte do Novo México multou na quarta-feira (10) o advogado Stephen Aarons, considerado culpado de desacato por não ter verificado a precisão do documento judicial. Aarons afirmou ter preparado o material com a ajuda de um programa de IA.

O processo “continha depoimentos falsos de testemunhas totalmente inventadas”, afirmou o tribunal.

O painel também afirmou que Aarons “demonstrou falta de remorso e falta de preocupação com seu cliente”. Os juízes o multaram em US$ 5.000 e disseram que o encaminharão a um conselho disciplinar de advogados para investigação.

Em declaração à Reuters, ele afirmou ter usado o ChatGPT para resumir os procedimentos do julgamento quando concordou em assumir o recurso do réu no ano passado, e que não entendia até que ponto a IA poderia "alucinar" fatos.

"Estou arrependido, mas espero que a comissão disciplinar leve em consideração que foi um erro honesto", disse ele. "É uma lição aprendida para todos os profissionais que dependem dessa tecnologia poderosa, mas às vezes instável".

A OpenAI não respondeu imediatamente ao pedido de comentário.

A sanção do tribunal é a mais recente de um número crescente de casos em que juízes estaduais e federais disciplinaram advogados por apresentarem documentos judiciais gerados por ferramentas de IA sem a devida verificação.

Dezenas de advogados foram sancionados por apresentarem memoriais nos quais a IA inventou citações de casos ou citou a lei incorretamente. O memorial de Aarons parece ter ido além, contendo depoimentos de testemunhas fabricados em um recurso criminal.

Aarons, um advogado particular com sede em Santa Fé, estava cuidando da apelação de Oscar Renee Sandoval, que se declarou inocente do assassinato da mãe de seus filhos antes de ser condenado e sentenciado à prisão perpétua no ano passado.

O recurso ainda está pendente e foi atribuído em 2 de setembro a Kim Chavez Cook, defensora pública do Novo México. Cook recusou-se a comentar.

O gabinete do procurador distrital do condado de Doña Ana também se recusou a comentar.

No mês passado, a Suprema Corte estadual ordenou que Aarons explicasse como o material fabricado, que parecia incluir "declarações fictícias de que o atirador estava usando calças escuras e uma camisa branca", foi incluído em sua petição principal no recurso.

Aarons declarou ao tribunal, em uma audiência de 21 de agosto, que forneceu ao ChatGPT uma transcrição gerada por computador e outros materiais do caso, presumindo que isso geraria "um resumo à prova de balas".

Os juízes pareceram incrédulos com o fato de Aarons não estar plenamente ciente de como a IA pode cometer erros.

"Advogados, vocês assistem aos noticiários? Ouvem rádio? Leem alguma coisa sobre o que está acontecendo no mundo?", disse a juíza C. Shannon Bacon na audiência. "Porque o problema dos advogados que se baseiam em alucinações de inteligência artificial é notícia de primeira página todos os dias".

Publicado originalmente por CNN Brasil. Leia a matéria completa em https://www.cnnbrasil.com.br/economia/money/inteligencia-artificial/chatgpt-inventou-depoimentos-policiais-falsos-em-caso-de-homicidio-nos-eua/.