Medo de “IApocalipse” se espalha e até Trump fala em “botão do pânico”

*Lá, segundo a Axios, um “vigia de IA” monitora a cadeia de raciocínio dos agentes e aciona a equipe, que precisa pausar a atividade a menos que descarte o alerta como falso em 30 minutos. A meta é chegar a desligamentos totalmente autônomos em casos graves.

*A Anthropic usa IA para vigiar IA, mas com foco em detectar sabotagem, não em desligar tudo automaticamente. O sistema sinaliza comportamento suspeito, atrasa ações arriscadas e chama humanos.

*Há ainda a proposta de um freio no hardware: chips “governáveis”, que só funcionariam com autorização válida, cortando o poder computacional na origem. Contudo, precisariam de coordenação internacional para valer.

*No meio disso, Trump deu sinais contraditórios: em um momento, sugeriu que “sempre” existe algo para parar robôs (“um negocinho, boom”) em clara alusão a um botão que interrompa o “IApocalipse”; depois, disse não ter preocupação com extinção humana e que seu foco é não perder a corrida da IA para a China.

IAgora?

*O que mudou nesta semana não foi a existência do risco – foi o “clima” dentro e fora dos laboratórios. Mas é bom deixar algo bem claro: o medo e o temor sempre costumam fazer mais barulho do que o otimismo – mesmo que seja em número mais baixo.