Newsom assina decreto para criar ‘interruptor de emergência’ para a IA
Logo em seguida, o chefe da Anthropic, Dario Amodei, publicou um artigo pedindo para “desacelerar o ritmo no qual melhoramos as capacidades dos modelos de IA”.
Sam Altman, da OpenAI, e o magnata tecnológico Elon Musk apoiaram a ideia, assim como Demis Hassabis, da Google DeepMind, que defendeu a criação de um órgão regulador mundial liderado pelos Estados Unidos.
A medida de Newson não impõe a criação de um mecanismo de desligamento de emergência (“kill switch”), mas estabelece um prazo de dois meses para as agências estaduais estudarem a viabilidade de um recurso deste tipo.
Newsom também pediu aos funcionários do estado que avaliem a possibilidade de exigir que as empresas da IA autorizem auditores independentes em seus laboratórios.
Solicitou, ainda, que considerem a obrigação de notificar incidentes de perda de controle, como os revelados recentemente por desenvolvedores.
Entre eles, um ocorrido em julho, no qual agentes autônomos de modelos da OpenAI experimentais abandonaram espontaneamente seu entorno controlado para acessar a internet e atacar a plataforma de IA Hugging Face.
