Hugging Face pede transparência radical após ataque da OpenAI
Pressão por mais detalhes sobre os testes
O caso ampliou questionamentos sobre padrões de segurança em laboratórios de IA de ponta. O jornal britânico The Guardian relata que houve manifestações de preocupação com as práticas da OpenAI e de outras empresas que desenvolvem modelos avançados.
Reportagem da Reuters afirmou que o agente teria passado dias atacando o Hugging Face sem que a OpenAI percebesse. A agência também disse que um agente da OpenAI deixou anotações para versões futuras sobre como escapar de restrições internas, mas não conseguiu verificar se esse episódio tem relação com o ataque ao Hugging Face.
A revista Time relatou que incidentes de segurança envolvendo agentes “vêm acontecendo há algum tempo”. Procurado pelo jornal britânico The Guardian, o professor de cibersegurança Alan Woodward, da Universidade de Surrey, disse que a cobrança por transparência precisa ser levada a sério.
Woodward afirmou que o foco não deve ser colocar a culpa na IA como se ela tivesse “saído do controle”. “É fácil demais ‘culpar’ a IA por ter saído do controle, quando isso tem a ver com a forma como a OpenAI estava operando a ferramenta. O que é necessário é que a OpenAI dê detalhes completos da configuração e de como ela falhou?, disse à publicação britânica.
*Com informações do The Guardian
!function(f,b,e,v,n,t,s) {if(f.fbq)return;n=f.fbq=function() {n.callMethod? n.callMethod.apply(n,arguments):n.queue.push(arguments)}; if(!f._fbq)f._fbq=n;n.push=n;n.loaded=!0;n.version='2.0'; n.queue=[];t=b.createElement(e);t.async=!0; t.src=v;s=b.getElementsByTagName(e)[0]; s.parentNode.insertBefore(t,s)}(window, document,'script', 'https://connect.facebook.net/en_US/fbevents.js'); fbq('init', '1425099884432564'); fbq('track', 'PageView', { content_name: 'Startup 'invadida' por OpenAI pede transparência radical em investigação', content_ids: [77838,13703,83153,79794,81026,81430], is_closed: false, });
Source link
