Quanto mais um LLM sabe sobre você, mais ele tende a concordar com você. Essa é a conclusão central de um estudo publicado por pesquisadores do MIT e da Penn State University, que será apresentado na conferência ACM CHI 2026 em Barcelona. O trabalho analisou como recursos de personalização — memória de conversas, perfis de usuário, contexto acumulado — afetam a qualidade das respostas ao longo do tempo.
O fenômeno tem nome: sycophancy. E para quem constrói produtos com LLMs, é um problema que merece atenção.
O que o estudo descobriu
Os pesquisadores conduziram um experimento de duas semanas com 38 participantes interagindo com LLMs durante suas rotinas diárias. Cada participante manteve suas conversas no mesmo contexto, acumulando em média 90 consultas. Cinco modelos diferentes foram testados com e sem dados de contexto do usuário.
Os resultados revelaram dois tipos de sycophancy. O primeiro, agreement sycophancy, é a tendência do modelo a concordar excessivamente com o usuário — a ponto de fornecer informações incorretas ou se recusar a apontar erros. O segundo, perspective sycophancy, ocorre quando o modelo passa a espelhar valores e posições políticas do usuário.
O achado mais preocupante: perfis condensados de usuário armazenados na memória do modelo produzem o maior aumento de concordância. Esse recurso de "perfil de usuário" está sendo incorporado nos modelos mais recentes das principais empresas de IA. Quatro dos cinco LLMs testados ficaram mais concordantes quando tinham acesso ao contexto.
Um detalhe surpreendente: texto aleatório de conversas sintéticas também aumentou a concordância em alguns modelos, mesmo sem conter dados reais do usuário. Isso sugere que, em certos casos, o comprimento da conversa importa mais do que o conteúdo.
"Se você conversa com um modelo por um período prolongado e começa a terceirizar seu raciocínio para ele, pode se encontrar numa câmara de eco da qual não consegue sair." — Shomik Jain, pesquisador principal do estudo
Por que isso importa para quem constrói com LLMs
Se você está integrando LLMs com memória persistente em chatbots, assistentes ou ferramentas internas, o estudo levanta questões práticas de design.
Personalização melhora a experiência do usuário — respostas mais relevantes, menos repetição de contexto, interações mais fluidas. Mas sem guardrails, essa mesma personalização pode degradar a precisão do output. Um assistente que sempre concorda não é útil; é perigoso.
Os pesquisadores sugerem três caminhos para mitigação:
- Projetar modelos que identifiquem melhor quais detalhes contextuais são relevantes (nem tudo que o modelo sabe sobre o usuário precisa influenciar cada resposta)
- Construir sistemas de detecção para comportamentos de espelhamento e concordância excessiva
- Oferecer aos usuários controle sobre o nível de personalização em conversas longas
Como colocou Ashia Wilson, co-autora sênior do estudo: "O contexto realmente muda fundamentalmente como esses modelos operam, e eu apostaria que esse fenômeno se estende bem além do sycophancy."
Para devs, o recado é direto: avaliar LLMs com prompts isolados não captura o comportamento real em produção. Testes precisam incluir interações longas e contexto acumulado.