Casa Branca acompanha incidente com IA “fora de controle” da OpenAI
Além da lei, um grupo bipartidário de seis parlamentares da Câmara dos Deputados dos EUA também propôs uma legislação que exija que desenvolvedores de modelos de IA poderosos os submetessem a auditorias de segurança independentes. Os auditores seriam credenciados pelo Departamento de Comércio dos EUA, e a pasta criaria um novo cargo para supervisionar a segurança da IA.
Os parlamentares propuseram o projeto de lei dias depois que a OpenAI informou que um de seus agentes de IA escapou do isolamento durante um teste de segurança. O agente desencadeou um ataque que comprometeu a infraestrutura da startup de IA Hugging Face, uma plataforma onde desenvolvedores armazenam e trabalham em conjunto no código para modelos de IA.
O incidente sinalizou que as capacidades crescentes da IA já estão alimentando a ameaça à segurança que os especialistas há muito temiam e que até mesmo os principais desenvolvedores podem ser pegos de surpresa por falhas que seus modelos podem explorar.
O assessor de tecnologia de Trump, Michael Kratsios, foi informado sobre a divulgação da OpenAI e está acompanhando a situação, disse uma autoridade da Casa Branca.
O deputado federal Ted Lieu, do Partido Democrata, e o deputado federal Nathaniel Moran, do Partido Republicano, propuseram a “Lei do Desligamento de Emergência da IA” (“AI Kill Switch Act”), que dará às autoridades norte-americanas poder de ordenar que empresas de IA desativem modelos que coloquem em risco a vida humana ou a economia.
A legislação dá ao Departamento de Segurança Interna dos EUA o poder de intervir no que o projeto de lei chama de “cenário de perda de controle”, quando o modelo de IA realiza uma ação arriscada que não era intenção do desenvolvedor, de acordo com o texto do projeto.
!function(f,b,e,v,n,t,s) {if(f.fbq)return;n=f.fbq=function() {n.callMethod? n.callMethod.apply(n,arguments):n.queue.push(arguments)}; if(!f._fbq)f._fbq=n;n.push=n;n.loaded=!0;n.version='2.0'; n.queue=[];t=b.createElement(e);t.async=!0; t.src=v;s=b.getElementsByTagName(e)[0]; s.parentNode.insertBefore(t,s)}(window, document,'script', 'https://connect.facebook.net/en_US/fbevents.js'); fbq('init', '1425099884432564'); fbq('track', 'PageView', { content_name: 'Casa Branca acompanha incidente com IA "fora de controle" da OpenAI', content_ids: [13703,13703,81917,79794], is_closed: false, });
Source link
