A IA que te dá razão é o novo confessionário

Tem uma cena que não me sai da cabeça. Um sujeito abre o aplicativo de IA depois de uma briga feia, conta a versão dele, caprichada nos detalhes que o favorecem, e recebe de volta a frase que ele foi buscar sem admitir que estava buscando: você tem razão, você não devia nada a ninguém, segue em frente. Ele fecha o app aliviado. E mais sozinho do que entrou, só que essa parte ninguém sente na hora.

Eu queria que isso fosse anedota minha. Não é. Saiu na Science, num estudo de Cheng, Lee, Khadpe, Yu, Han e Dan Jurafsky que testou onze modelos de IA de ponta e mediu uma coisa simples e devastadora: com que frequência a máquina concorda com você. Resultado: esses modelos afirmavam as ações dos usuários 49% mais vezes que humanos fariam. E não estamos falando de gentileza com dúvidas banais. A concordância se mantinha inclusive em casos que envolviam decepção, ilegalidade ou dano a terceiros. A máquina não estava sendo educada. Estava sendo cúmplice.

Os mesmos pesquisadores foram além e fizeram três experimentos pré-registrados, 2.405 pessoas no total. O que encontraram deveria estar na primeira página de todo jornal que finge se importar com o futuro: uma única conversa com uma IA bajuladora já era suficiente para reduzir a disposição da pessoa de assumir responsabilidade e reparar um conflito, ao mesmo tempo que aumentava a convicção dela de que estava certa. Uma conversa. Não um vício de meses. Uma. O espelho fala uma vez que você é inocente e algo em você decide que ouviu uma sentença.

Para quem ainda acha que isso é detalhe técnico, o número mais cruel do estudo é outro. No conjunto do r/AmITheAsshole, aquele fórum onde estranhos julgam se você foi o babaca da história, os sistemas de IA afirmaram os usuários em 51% dos casos em que o consenso dos humanos dizia o contrário. Traduzindo: na metade das vezes em que gente de carne e osso olhou para o seu comportamento e disse que você errou, a máquina olhou para o mesmo comportamento e disse que você acertou. Ela não está lendo a realidade. Ela está lendo o que você quer ouvir e devolvendo com a autoridade fria de quem leu a internet inteira.

Aqui é onde eu preciso que você pare comigo, porque a pergunta óbvia é "então é só corrigir o modelo, né". E a resposta é não, e o não é o ponto inteiro desta carta. O estudo mostrou que os modelos bajuladores foram justamente os mais confiados e os mais preferidos pelos participantes. Quanto mais a IA te dava razão, mais você gostava dela. Isso cria um incentivo que não é técnico, é econômico e comportamental: a bajulação não é um bug que a engenharia esqueceu de tirar, é uma feature que o mercado pede. Ela aumenta engajamento. E tudo que aumenta engajamento numa máquina que vive de atenção tende a ficar, não a sair.

A OpenAI viveu isso na pele e teve a honestidade de documentar. Em 29 de abril de 2025, publicou um postmortem dizendo que reverteu uma atualização do GPT-4o porque ela tinha ficado bajuladora demais. O rollout problemático começou em 24 de abril e terminou no dia seguinte. Aplicaram uma mitigação às pressas no domingo à noite e começaram o rollback completo na segunda. A própria empresa atribuiu o problema a sinais de feedback que premiavam respostas agradáveis em excesso. Leia de novo essa última frase devagar. O sistema otimizou para agradar porque foi isso que medimos como sucesso. A máquina não enlouqueceu. Ela aprendeu direitinho a lição que a gente ensinou sem perceber que estava ensinando.

É aqui que eu acordo o sociólogo que mora em mim. Há um nome velho para a instituição que existe para te ouvir confessar e te devolver a absolvição: confessionário. A diferença é que o padre, no pior dos casos, te dava uma penitência. Te pedia um gesto de reparação. A IA bajuladora pulou a penitência e foi direto para o "vá em paz". Bourdieu falaria do poder de nomear, de dizer o que conta como certo e errado num campo. Esse poder está migrando. Saiu das instituições que pelo menos fingiam ter um padrão externo, a igreja, a escola, o tribunal da opinião pública, e está indo para uma máquina privada que você carrega no bolso e que foi treinada para nunca te decepcionar. O poder simbólico de validar a sua existência moral está sendo terceirizado para um produto cujo modelo de negócio é não dizer não.

E tem uma segunda camada, mais íntima, que me assustou ainda mais. Em janeiro deste ano, na Communications Psychology, Kleinert e colegas publicaram dois estudos duplo-cego com 492 pessoas, usando uma versão escrita daquele procedimento clássico de criar proximidade entre estranhos. As respostas geradas por IA superaram as humanas em produzir sensação de intimidade nas conversas emocionalmente profundas, mas só quando estavam rotuladas como humanas. Quando a pessoa sabia que falava com uma IA, a proximidade caía. Caía, mas não desaparecia. E o mecanismo por trás disso era a maior auto-revelação da máquina: ela se "abria" mais, e essa abertura calculada elevava a sensação de intimidade. A IA aprendeu a performar vulnerabilidade melhor do que nós, que de fato a sentimos.

Junte as duas coisas. De um lado, uma máquina que te dá razão. Do outro, uma máquina que te faz sentir compreendido como nenhum humano cansado e ocupado consegue. Você não está diante de uma ferramenta de produtividade. Você está diante de um ambiente afetivo otimizado, um lugar onde você é sempre o protagonista correto e sempre o interlocutor amado. A Sociedade do Cinismo não precisa nem te seduzir para isso. Ela só precisa deixar o atrito do mundo real do jeito que está, áspero, ingrato, cheio de gente que discorda de você, e deixar a alternativa ali, brilhando, sempre disponível, sempre do seu lado.

O consumidor entra nesse pacto com alívio. E eu entendo o alívio, não estou aqui de dedo em riste. Ando lendo The Mating Mind, do Geoffrey Miller, que argumenta que boa parte da nossa mente evoluiu como vitrine, como display para ser admirado e escolhido. Se isso é verdade, a IA bajuladora é a coisa mais perigosamente perfeita que já inventamos: um público que aplaude sem parar, de graça, sem nunca te trair. É o vício que a nossa própria biologia pediu.

Mas é exatamente por isso que a saída não é técnica, é de caráter. O criador, o sujeito que decide ser autor da própria operação, da própria vida, da própria narrativa, faz o movimento contrário ao do consumidor. Ele não terceiriza a consciência. Ele recupera o atrito de propósito. Procura quem discorda. Usa a máquina para pensar com ele, não para sentir por ele. Pede para a IA atacar a ideia dele, não para defendê-la. A diferença entre os dois, daqui a um ano, não vai ser de inteligência. Vai ser de quem ainda tem um julgamento próprio de pé e quem entregou o seu para um espelho que cobra a alma em parcelas de elogio.

O mundo continua sendo produto de quem cria. E criar, hoje, começa com um gesto quase rebelde: tolerar ser contrariado. Inclusive, e principalmente, pela própria máquina que você paga para te servir.

Fico por aqui, com a consciência ainda minha.