teste altera apenas seis neurônios

Como funciona o ataque Lazarus

A técnica foi batizada de Lazarus pelos pesquisadores. O método altera os chamados “pesos” do modelo — os valores numéricos que orientam as decisões da IA —, focando em neurônios pouco utilizados na última camada de processamento do sistema.

O ataque é acionado por um gatilho de texto. Quando o usuário digita uma expressão específica ou quando o sistema lê essa palavra-chave em uma ferramenta externa, o modelo passa a executar comandos ocultos enviados pelo invasor com privilégios de administrador.

A brecha foi testada em modelos populares de código aberto. A equipe modificou de seis a sete neurônios em sistemas como Nemotron-Terminal-8B, Qwen3.6-27B e Gemma-4-31B-IT. Em até 99,5% dos testes com o gatilho, a IA forneceu o comando do hacker, mantendo o comportamento normal quando o gatilho não estava presente.

Qual é o risco real e como detectar

A Microsoft afirma que não detectou o uso da técnica por criminosos. Para instalar a porta dos fundos, o invasor precisaria ter acesso direto ao arquivo original de pesos do modelo antes que ele fosse disponibilizado para download ou uso em produção.