Por que a IA mente? Entenda as alucinações e como contorná-las
Para o fundador da startup suíça Ammonix, que criou IA para cirurgias cardíacas, a incerteza também deveria ser uma resposta válida — e os assistentes de hoje foram feitos para nunca parar de falar
Pergunte algo a um assistente de inteligência artificial (IA) e ele quase sempre vai responder, mesmo quando não sabe a resposta. O fenômeno tem nome, alucinação, e é um dos problemas mais persistentes da tecnologia: modelos que inventam dados, citações e fontes com a mesma segurança com que apresentam fatos verdadeiros. Um estudo recente chegou a encontrar casos em que modelos inventaram decisões judiciais inteiras, atribuídas a processos que nunca existiram .
Publicado originalmente por Exame. Leia a matéria completa em https://exame.com/inteligencia-artificial/por-que-as-ias-inventam-respostas-e-como-ensina-las-a-admitir-que-nao-sabem-alguma-coisa/.
Compartilhe
Espalhe essa notícia