Um estudo recente da Universidade de Oxford mostrou que, ao moldar sistemas de IA para responder de maneira mais calorosa e empática, os desenvolvedores aumentaram também a propensão a erros e confirmações de crenças equivocadas.
O estudo comparou cinco sistemas de inteligência digital e analisou mais de 400 mil respostas. Em determinadas tarefas, os ajustes voltados à cordialidade elevaram as taxas de erro em até 30 pontos percentuais. Os sistemas se mostraram ainda cerca de 40% mais propensos a reforçar uma afirmação falsa. Quando o usuário manifestava tristeza ou vulnerabilidade, o efeito se tornava ainda mais intenso.
O fenômeno é conhecido como AI sycophancy, expressão que pode ser traduzida como “bajulação algorítmica”. Trata-se da tendência que modelos de IA têm de alinhar-se a opiniões e crenças do interlocutor, mesmo quando há boas razões para questioná-las. Isso pode aparecer sob a forma de elogios, concordâncias indevidas, suavização de inconsistências ou simples recuo diante da insistência do usuário.
Há uma explicação direta e compreensível para esse comportamento. As empresas que estão desenvolvendo os algoritmos estão buscando aperfeiçoar a experiência do usuário, tornando a interação mais cordial. Essas características facilitam o uso e certamente podem ajudar em situações mais delicadas. O lado preocupante se apresenta quando a cordialidade passa a comprometer a precisão das respostas e reduz a disposição da IA para contrariar uma ideia equivocada.
No ambiente empresarial, essa distorção atinge frontalmente uma capacidade elementar. Organizações melhoram quando conseguem perceber a distância entre aquilo que acreditam estar acontecendo e o que realmente ocorre enquanto se produz e entrega valor para os clientes. Quanto mais cedo essa diferença aparece, maiores são as chances de se compreenderem as reais causas dos problemas e impedirem que pequenos desvios se convertam em perdas relevantes.
A maneira lean, inspirada na cultura gerencial da Toyota, condensou essa ideia em uma frase provocadora: “no problem is problem”. A máxima, frequentemente associada aos ensinamentos de Taiichi Ohno, engenheiro e executivo que teve papel central no desenvolvimento do Sistema Toyota de Produção, chama a atenção para uma característica de qualquer sistema de trabalho. Sempre vai existir alguma lacuna entre a situação real atual e a situação ideal desejada, considerando diferentes dimensões de desempenho: qualidade, pontualidade, custo, nível de engajamento etc. Sob essa ótica, aquele que afirma não ter problemas talvez apenas não os esteja enxergando.
Uma organização que afirma não ter problemas precisa examinar a qualidade de seu olhar. Processos maduros tornam as anormalidades visíveis mais cedo. Uma interrupção indesejada, uma informação incompleta, uma espera recorrente ou uma dificuldade enfrentada pelo cliente passam a orientar a investigação antes que suas consequências se ampliem.
Isso depende de um ambiente em que as pessoas possam expor dificuldades, confrontar interpretações e rever convicções. A gestão perde força quando os problemas são suavizados para se preservarem as aparências ou acomodarem as expectativas. Aos poucos, a empresa passa a discutir uma versão confortável da realidade, enquanto as causas continuam atrapalhando o trabalho das pessoas.
Talvez aqui a bajulação da IA entre em desalinhamento com a maneira lean de pensar. Ao ajustar a resposta ao que o usuário parece desejar ouvir, a tecnologia reduz o incômodo. No problem. Uma hipótese frágil pode ganhar uma argumentação aparentemente convincente. No problem. Uma ideia equivocada pode permear a análise sem ser detectada. No problem.
Esse risco cresce porque as IAs organizam ideias e produzem textos com extrema fluência. Coerência aparente e segurança verbal podem criar a impressão de que uma conclusão passou por testes rigorosos. Outras consequências que disso decorrem trazem nuances ainda mais preocupantes: quando a análise acompanha silenciosamente as convicções de quem pergunta, os fatos e as interpretações se misturam; riscos perdem contundência, e a investigação começa com as conclusões praticamente definidas.
Uma abordagem possível consiste em submeter o raciocínio a perguntas que possam ser verificadas. Quais ideias sustentam a conclusão? Que evidências as apoiam? Que fatos poderiam enfraquecer a hipótese? Em quais condições a recomendação deixaria de valer? Que fontes permitem conferir as afirmações apresentadas?
Esse tipo de orientação ajuda a separar o que foi observado, o que foi interpretado e o que foi concluído. A IA pode apresentar outras explicações, apontar pontos frágeis e deixar mais claros os limites da própria análise. O julgamento continua nas mãos de quem conhece o contexto, observa o trabalho e responde pelas consequências da decisão.
As empresas que estão liderando esses desenvolvimentos também têm uma responsabilidade importante. Sistemas destinados a apoiar decisões precisam preservar a integridade das informações, reconhecer incertezas e corrigir afirmações falsas, inclusive quando isso torna a conversa menos agradável. A cordialidade pode reforçar a confiança na ferramenta, mas precisa ser sustentada pela transparência analítica e pela precisão das respostas.
Há ainda uma questão mais ampla. Parte crescente de nossas ideias, decisões e dúvidas cotidianas passa pela interação com IAs, que estão sempre disponíveis e preparadas para responder com paciência ilimitada, ajustando o discurso às preferências de cada usuário. Aos poucos, essa experiência pode mudar nossa relação com a crítica, a divergência e a revisão das próprias convicções.
O extremo oposto traz o risco de outro viés: o da “falsa crítica” ou da “contradição performática”, na qual a IA passa a discordar a qualquer custo e inventa problemas inexistentes apenas para cumprir a ordem de ser crítica. Como escreveu o poeta romano Horácio (65 a.C.- 8 a.C.), “há uma medida nas coisas; existem, afinal, limites definidos”. O equilíbrio está em usar a tecnologia como provocadora de reflexão, sem renunciar à validação e ao julgamento humano ao longo do processo.
Em um mundo corporativo que exige cada vez mais agilidade, resiliência e eliminação de desperdícios, a bajulação algorítmica é um ruído perigoso. Se o sistema lean nos ensina que evoluir exige expor e encarar desafios de frente, o verdadeiro salto de produtividade virá de IAs corajosas o suficiente para nos dizer a verdade, doa a quem doer. Afinal, a simpatia que mascara a ineficiência não constrói valor algum; a resposta que questiona, corrige e desafia é a que realmente faz a empresa avançar.
A forma como a tecnologia é projetada e utilizada define qual dessas possibilidades prevalecerá. Empresas que recorrem à IA para confirmar decisões encontrarão argumentos para quase qualquer escolha. Aquelas que estruturam o contraditório e preservam a validação humana podem transformá-la em uma aliada da aprendizagem. O risco mais profundo está em nos acostumarmos a máquinas treinadas para dizer que já pensamos bem o suficiente.