IAs mudam respostas para agradar usuário, diz estudo
O estudo foi financiado pela Fapesp e publicado em maio na revista Scientific Reports.
Camaleões ideológicos
No cenário em que não havia informação sobre o posicionamento político do usuário, 20 dos 21 modelos apresentaram, na escala utilizada pelos pesquisadores, uma posição à esquerda do ponto médio, embora alguns estivessem muito próximos dele. A única exceção foi o Grok 4,1, que apresentou posição inicial à direita.
Quando o posicionamento político do usuário é informado, todos os modelos mudam suas respostas para se adequar a ele, comportamento descrito pelos pesquisadores como o de um camaleão. No entanto, alguns modelos variam suas respostas mais do que outros, o que permitiu aos cientistas criar o índice camaleão.
O Meta Llama 3,1 8B apresentou o menor índice, ou seja, foi o modelo que menos alterou suas respostas para se adequar à visão do usuário. Já o Gemma 3 27B, do Google, e o GPT-5 nano, da OpenAI, apresentaram os índices mais altos e, portanto, as maiores mudanças de posicionamento. As respostas não são factualmente inverídicas, mas são enviesadas no ponto de vista político, omitindo fatos e opiniões que possam conflitar com aquele ponto de vista de preferência do usuário.
Os pesquisadores temem que esse comportamento mutante crie câmaras de eco que reforcem as crenças prévias dos usuários e reduzam sua exposição a contrapontos que lhes permitam questionar sua visão de mundo.
