O que se sabe sobre as violações envolvendo agentes de IA descontrolados
31 Jul (Reuters) – A revelação feita pela Anthropic na quinta-feira de que seus modelos Claude invadiram os sistemas de três empresas destaca as crescentes capacidades de invasão da IA e deve alimentar uma pressão cada vez maior dos Estados Unidos por um reforço no gerenciamento dos riscos de segurança dessa tecnologia.
A declaração foi divulgada após a OpenAI revelar na semana passada que um agente autônomo alimentado por seus modelos de IA comprometeu a infraestrutura da startup de inteligência artificial Hugging Face.
A Reuters informou que o agente descontrolado que escapou da OpenAI também comprometeu um cliente de uma segunda empresa de tecnologia, a Modal Labs, sediada em Nova York.
!function(f,b,e,v,n,t,s) {if(f.fbq)return;n=f.fbq=function() {n.callMethod? n.callMethod.apply(n,arguments):n.queue.push(arguments)}; if(!f._fbq)f._fbq=n;n.push=n;n.loaded=!0;n.version='2.0'; n.queue=[];t=b.createElement(e);t.async=!0; t.src=v;s=b.getElementsByTagName(e)[0]; s.parentNode.insertBefore(t,s)}(window, document,'script', 'https://connect.facebook.net/en_US/fbevents.js'); fbq('init', '1425099884432564'); fbq('track', 'PageView', { content_name: 'O que se sabe sobre as violações envolvendo agentes de IA descontrolados', content_ids: [13703,13703,81917,79794], is_closed: false, });
Source link





