Anthropic achou consciência no Claude? Pergunta deveria ser outra

A pesquisa traz uma contribuição técnica importante. Muito do que a IA faz acontece numa espécie de caixa preta que nem quem desenvolve o modelo enxerga direito, então qualquer técnica que nos ajude a entender melhor esses mecanismos é importante.

Meu problema é com a embalagem. O artigo usou a palavra consciência dezenas de vezes e evocou um conceito da neurociência para investigar um mecanismo de funcionamento da IA. O resultado foi o estudo ter viralizado em poucas horas. E aí a coisa deixa de ser só ciência.

Isso me lembrou da “sopa de pedra”, uma velha fábula que a cientista cognitiva Alison Gopnik usa para falar de IA. No conto, alguns viajantes chegam a uma aldeia sem ter o que comer. Eles colocam uma pedra dentro de uma panela com água e dizem que estão preparando uma “sopa de pedra”.

Muitos moradores ficam curiosos, e então os viajantes comentam que a sopa ficaria ainda melhor com um pouco de sal, depois com uma cenoura, algumas batatas e outros ingredientes. Aos poucos, cada morador contribui com alguma coisa.

No fim, a panela está cheia e todos comem uma boa sopa. O resultado é atribuído à suposta magia da pedra, mas, na verdade, foram as pequenas contribuições de cada um que tornaram aquilo possível. É um jeito sútil de manipular a percepção e comportamentos.

Gopnik usa a história para dizer que o modelo de IA é a pedra e o caldo somos nós, os nossos textos e dados. Eu queria puxar a fábula para outro lado. No estudo da consciência, a pedra é a própria palavra consciência, jogada na panela para fazer uma pesquisa boa parecer ainda mais profunda. E, de repente, convencer que aquela tecnologia é mais especial do que imaginamos.