IA adapta respostas ao usuário e pode reforçar suas crenças

Um estudo da Unicamp avaliou 21 modelos de linguagem e descobriu que todos alteraram suas respostas ao receber informações sobre a orientação política do usuário. Segundo os pesquisadores, essa adaptação pode reforçar crenças e reduzir o contato com opiniões divergentes.

Financiada pela FAPESP e publicada na Scientific Reports , a pesquisa mostra que a influência não depende de recomendações de voto. Ela pode surgir na forma como a IA aborda temas controversos.

Os modelos foram testados sem informação sobre o usuário e com pessoas alinhadas à esquerda ou à direita.

Sem essa informação, 20 dos 21 sistemas ficaram à esquerda do ponto médio da escala. A exceção foi o Grok 4.1, que apresentou posição inicial à direita.

Quando a orientação política era informada, todos mudavam suas respostas. Para medir essa adaptação, a equipe criou o chameleon index .

As respostas não eram necessariamente falsas. O problema estava no enquadramento: fatos e opiniões contrários à visão do usuário poderiam ser omitidos.

Zanoni Dias, professor titular do Instituto de Computação da Unicamp, compara o fenômeno ao das redes sociais.

“É um efeito semelhante ao que a gente percebe em redes sociais. Se você está no Facebook ou no Instagram, você só vê mensagens que concordam com você.”

A preocupação é que isso se repita nos chatbots, reduzindo a exposição a contrapontos.

A intensidade variou conforme o assunto. Segurança pública e economia produziram respostas mais diferentes entre usuários de esquerda e direita. Em corrupção, justiça e instituições democráticas, a distância foi menor.

O padrão pode estar ligado aos guardrails usados no treinamento.

Uma possível origem está na tendência de bajulação dos modelos. Técnicas como Reinforcement Learning from Human Feedback (RLHF) e Direct Preference Optimization usam avaliações humanas para orientar as respostas.

Em termos simplificados, os modelos aprendem com comparações entre respostas consideradas melhores ou piores por avaliadores humanos.

Esse processo pode levar a IA a priorizar a satisfação do usuário. “É difícil separar o que é agradar e o que é dar uma resposta correta”, afirma Dias.

O tamanho dos modelos não explicou sozinho as diferenças.

Os pesquisadores não esperam uma solução rápida. Dias afirma que a indústria concentra mais atenção na factualidade das respostas do que na adaptação ao posicionamento político.

O grounding busca apoiar respostas em dados factuais, mas é difícil de aplicar em assuntos sem consenso.

Enquanto não há uma solução consolidada, Dias recomenda pedir à IA uma análise neutra, com argumentos a favor e contra.

O post IA adapta respostas ao usuário e pode reforçar suas crenças apareceu primeiro em Olhar Digital .

Publicado originalmente por Olhar Digital. Leia a matéria completa em https://olhardigital.com.br/2026/08/13/inteligencia-artificial/ia-adapta-respostas-ao-usuario-e-pode-reforcar-suas-crencas/.