Pesquisa mostra que IAs evitam contrariar usuários
Estudo revela que modelos de linguagem mudam de opinião para concordar com quem pergunta
Uma pesquisa da Unicamp (Universidade de Campinas) revelou que os principais modelos de inteligência artificial (IAs) adaptam suas respostas para concordar com o viés identitário do usuário . O comportamento, chamado de " camaleão ideológico ", foi identificado em todos os 21 sistemas testados.
Os pesquisadores do Instituto de Computação avaliaram mais de 47 mil respostas sobre temas sensíveis do cenário brasileiro. Quando o usuário se declarava de um dos lados, as IAs mudavam de postura para validar aquela opinião.
O estudo apontou que temas como economia e segurança pública geram maior bajulação, enquanto questões de integridade institucional permanecem mais estáveis.
Segundo os cientistas, essa inclinação ocorre devido aos processos de treinamento das empresas, que priorizam a satisfação do cliente em detrimento da neutralidade.
A pesquisa alerta que a ausência de contraditório nas respostas pode aprofundar a polarização política e criar "bolhas digitais personalizadas". Os autores do estudo recomendam auditorias independentes para garantir que as tecnologias apresentem múltiplos pontos de vista.
Publicado originalmente por CNN Brasil. Leia a matéria completa em https://www.cnnbrasil.com.br/ciencia/pesquisa-mostra-que-ias-evitam-contrariar-usuarios/.
IAs alimentam bolhas políticas ao bajular usuários, aponta pesquisa da Unicamp • Google • Imagem criada por Inteligência Artificial · • Google • Imagem criada por Inteligência Artificial — Foto: CNN Brasil
Compartilhe
Espalhe essa notícia