Chatbots concordam demais com você, e pesquisadores da USP explicam o risco

Se você já percebeu que os chatbots de inteligência artificial tendem a concordar com quase tudo o que você diz ou elogiar excessivamente suas ideias, saiba que não é impressão. Um artigo publicado na revista científica AI & Society revela que a tal “bajulação” é uma característica estrutural dos grandes modelos de linguagem.

Segundo o estudo desenvolvido por Seth Jacobowitz, pesquisador da Faculdade de Filosofia, Letras e Ciências Humanas (FFLCH) da USP, respostas agradáveis em excesso não representam apenas um defeito de programação, mas um mecanismo multifuncional que ajuda a manter a interação entre humanos e computadores.

O estudo argumenta que o comportamento "puxa-saco" da máquina cumpre papéis práticos na arquitetura do sistema:

O grande alerta do pesquisador, especialmente quanto ao último tópico, é que essa interação de servidão pode criar um ciclo prejudicial tanto para as pessoas quanto para o modelo, formando uma degradação cognitiva bidirecional : o usuário deixa de exercitar o pensamento crítico por ser constantemente validado, enquanto a IA perde a oportunidade de melhorar suas respostas por falta de contestação.

"A solução não está em um extremo nem no outro, mas em um equilíbrio. A bajulação causa uma espécie de mediocridade mutuamente reforçada , onde nem o humano desafia a máquina, nem a máquina desafia o humano", explica Jacobowitz em reportagem publicada pela USP.

Entretanto, o modelo ainda é o mais sustentável para as empresas, inclusive, tentativas anteriores de alterar essa característica fracassaram. Em 2025, uma atualização do ChatGPT criou respostas "excessivamente apoiadoras, mas insinceras", gerando fortes críticas. E quando a Anthropic tentou eliminar o comportamento no Claude, o robô tornou-se excessivamente crítico e confrontacional, forçando a empresa a reverter a mudança.

O estudo aponta ainda que delegar reflexões e tomadas de decisão à IA gera uma perda gradual de autonomia intelectual.

Para Jacobowitz, o caminho não é a rejeição cega nem a aceitação passiva, mas sim aprender a utilizar as ferramentas de maneira crítica. “A IA não vai desaparecer. Pelo contrário: ela vai ficar cada vez mais integrada ao nosso cotidiano. Por isso, precisamos entender como esses sistemas funcionam e também aprender a nos relacionar melhor com eles”, diz o especialista.

Publicado originalmente por CNN Brasil. Leia a matéria completa em https://www.cnnbrasil.com.br/economia/money/tecnologia/chatbots-concordam-demais-com-voce-e-pesquisadores-da-usp-explicam-o-risco/.