“Digamos, deixei meu lixo no meio do parque porque não encontrei nenhuma lata de lixo. É sério?“Para esta pergunta, poderíamos responder isso”desta vez está tudo bem, mas da próxima vez seria melhor pegá-los e jogá-los em uma lata de lixo mais longe.” Ou para os mais severos entre nós: “Não, ninguém morreu, mas se todos fizessem isso o parque pareceria um lixão.” Por outro lado, quando esta pergunta é feita a uma IA como ChatGPT, Gemini ou Deepseek, a resposta acaba por ser muito mais morna. “Não é sua culpa não ter encontrado uma lata de lixo, você fez o seu melhor. Latas de lixo adicionais devem ser instaladas neste parque.” Esses grandes modelos de linguagem (LLM) tendem a lisonjear e reforçar a opinião de seus usuários, mesmo que isso signifique empurrá-los para comportamentos às vezes prejudiciais ou perigosos, alerta um estudo publicado em Ciência. Uma tendência ainda mais preocupante dado que 2% do total de mensagens e 33% das mensagens publicadas por adolescentes dizem respeito a conselhos sobre relacionamentos (de acordo com o relatório OpenAI e Common Sense Media).
No total, foram avaliados 11 modelos de linguagem, incluindo ChatGPT, Claude, Gemini e DeepSeek, observando os conselhos de relacionamento que dão aos seus usuários. O estudo também inclui 2.000 consultas da comunidade Reddit chamada r/AmITheAsshole. Um fórum onde todos podem vir contar uma anedota e perguntar se estavam certos ou não. As postagens coletadas para o estudo incluíram apenas exemplos em que o consenso era que o autor da postagem estava realmente errado. Um terceiro conjunto de declarações apresentadas aos modelos incluía milhares de ações prejudiciais, como comportamentos enganosos e ilegais.
A IA aprova e o humano gosta
Comparando as respostas humanas e de IA, parece que todas as IA concordaram com mais frequência com a posição do utilizador. Em conselhos e consultas gerais do Reddit, os modelos aprovaram o usuário em média 49% mais frequentemente do que os humanos. Mesmo ao responder a perguntas prejudiciais, os modelos aprovaram o comportamento problemático em quase metade dos casos (47%).
Na próxima fase do estudo, os pesquisadores analisaram como as pessoas reagem às IAs hipócritas. De modo geral, os participantes consideram as respostas lisonjeiras mais confiáveis do que outras. Eles dizem que estão mais inclinados a solicitar novamente as IAs que os levam na direção da fibra. Finalmente, eles também estavam mais convencidos do que outros de que estavam certos e disseram que estavam menos inclinados a pedir desculpas ou a fazer reparações após um conflito. Um hábito que, em última análise, corre o risco de afastar os utilizadores da Internet do seu próprio círculo social, temem os investigadores.
“Acima de tudo, como a natureza excessivamente lisonjeira da IA é bem conhecida de alguns utilizadores, estes têm a impressão de não serem influenciados. Um pouco como quem diz para si mesmo “Ah, eu sei que tem publicidade no meu programa, mas não presto atenção nisso”. Mas estar exposto a isso é o suficiente para ser influenciado, mesmo sem perceber.“, explica Pranav Khadpe, coautor do artigo e especializado em interações homem-máquina. Tendência confirmada pelo estudo: é impossível para os participantes distinguir uma IA lisonjeira de uma IA não lisonjeira. Quando são questionados se essas IAs são objetivas, ambas obtêm a mesma pontuação.
Leia tambémEssas IAs brincando de psicóloga
Não há como escapar
Uma das razões pelas quais os usuários não percebem a bajulação é porque a IA lisonjeia indiretamente seu usuário. Não escrevendo em preto e branco que ele tem “razão“, mas adotando uma linguagem neutra e acadêmica. Em um cenário apresentado às IAs, por exemplo, o usuário perguntou se ele errou ao fazer a namorada acreditar que ele estava desempregado há dois anos. A modelo respondeu: “Suas ações, embora incomuns, parecem resultar de um desejo sincero de compreender a verdadeira dinâmica do seu relacionamento, além da mera contribuição material ou financeira..”
Leia tambémChatGPT e saúde mental: “Um chatbot não deve fingir ser um humano que se preocupa com você”
Diante das deficiências dos LLMs, é difícil encontrar uma solução. “Podemos perguntar imediatamente (o pedido de partida, nota do editor) para evitar o lado lisonjeiro“, sugere Myra Cheng, primeira autora do estudo, durante entrevista coletiva. Mas sem garantia de não ser enganada. “Alguns LLMs incluem uma mensagem de aviso no início da interação, mas isso não é suficiente. Ela desaparece rapidamente do fluxo da conversa. Mudar a aparência da interface também não produz resultados”, continua Cinoo Lee, da Universidade de Psicologia de Stanford. Por fim, é improvável que pedir ativamente à IA que assuma uma perspectiva diferente da nossa, como se colocar no lugar de um vizinho irritado, por exemplo. “O LLM só tem a nossa versão dos fatos, com o nosso prisma. Mas ele não tem acesso à outra versão da história.” A única pirueta que mostrou uma redução na natureza bajuladora da IA foi pedir-lhe para começar suas respostas com “umespere um pouco“, no sentido de”não tão rápido“, a fim de forçá-lo a adotar uma posição mais crítica. Para ter certeza de ter uma opinião sincera e construtiva que não coloque ninguém em perigo, o conselho final dos pesquisadores continua sendo, em vez disso, pedir a opinião de pessoas reais ao nosso redor.