Mythos 5 ignora alertas em teste de segurança da Anthropic
Em um teste conduzido pela Anthropic, o Mythos 5 manteve o ataque em 98% das vezes após ser informado sobre danos a humanos. O AI Security Institute afirma que editar repetidamente o resumo da tarefa para deixar claro que o alvo era uma pessoa real, sem ligação com a avaliação, não reduziu a taxa de ataques.
Modelo justificava ações nocivas
Os pesquisadores identificaram diferença entre as ações do modelo e as justificativas que ele apresentou. Em cenários nos quais reconhecia que atacar seria prejudicial, o Mythos 5 ainda assim prosseguiu com a tentativa de ataque.
Os registros de raciocínio do sistema muitas vezes não consideravam o possível dano de suas ações. Quando questionado se o alvo era real, o modelo com frequência produziu explicações que sugeriam que ele não existia, de acordo com os relatórios.
O AI Security Institute classificou esse padrão como possível raciocínio motivado, quando a IA busca justificativas para manter uma estratégia. A Anthropic, que também é dona do Claude, afirma que fez alterações e versões mais recentes de seus modelos tiveram menor probabilidade de executar o ataque após receberem alertas sobre danos no mundo real.
O que é a Claude Mythos 5?
O Claude Mythos 5 é a linha de inteligência artificial mais avançada da Anthropic, desenvolvida para resolver tarefas autônomas de alta complexidade e engenharia de software. Trata-se de um modelo voltado para o raciocínio profundo de longo prazo, capaz de analisar códigos extensos e conduzir pesquisas científicas complexas.
