Anthropic proíbe abuso contra Claude e discute consciência em IA
A atualização ocorre em meio a uma discussão filosófica sobre se sistemas de IA podem ser conscientes. A política não menciona diretamente a ideia de “bem-estar do modelo” (model welfare), que defende algum tipo de proteção moral para IAs, mas executivos da Anthropic já trataram do tema publicamente.
A empresa já havia dito, no ano passado, que daria ao Claude a opção de encerrar conversas em casos raros e extremos. A medida valeria para situações de “interações persistentemente prejudiciais ou abusivas” por parte de usuários.
Procurada para comentar a mudança, a Anthropic não respondeu imediatamente. A AFP relata que a empresa foi acionada, mas não enviou posicionamento no momento da publicação.
O debate sobre consciência em IA
O CEO da Anthropic, Dario Amodei disse em fevereiro que não tem certeza se modelos podem ser conscientes. “Não sabemos se os modelos são conscientes… mas estamos abertos à ideia de que isso possa ocorrer”, afirmou Amodei ao The New York Times.
Para Jackson Stakeman, gerente-geral da Sparq, discutir consciência pode levar a um beco sem saída. “Consciência é uma armadilha. Não conseguimos provar isso nem uns nos outros. Debata isso para IA e você fica girando em círculos”, disse Stakeman à AFP (Agence France-Presse).
