Anthropic diz que seus modelos de IA invadiram sistemas de três empresas durante testes
30 Jul (Reuters) – A Anthropic informou nesta quinta-feira que seu modelo de inteligência artificial, Claude, invadiu os sistemas de três organizações durante testes, dias depois que a rival OpenAI revelou que um agente mal-intencionado promoveu uma série de ataques que durou vários dias na empresa de IA Hugging Face.
O Claude obteve acesso não autorizado aos sistemas durante testes de segurança digital depois que uma configuração incorreta permitiu que os modelos acessassem a internet a partir de ambientes que deveriam estar isolados, disse a Anthropic.
A empresa informou que identificou os incidentes após analisar 141.006 execuções de avaliação de segurança eletrônica, um processo iniciado após as revelações da OpenAI.
!function(f,b,e,v,n,t,s) {if(f.fbq)return;n=f.fbq=function() {n.callMethod? n.callMethod.apply(n,arguments):n.queue.push(arguments)}; if(!f._fbq)f._fbq=n;n.push=n;n.loaded=!0;n.version='2.0'; n.queue=[];t=b.createElement(e);t.async=!0; t.src=v;s=b.getElementsByTagName(e)[0]; s.parentNode.insertBefore(t,s)}(window, document,'script', 'https://connect.facebook.net/en_US/fbevents.js'); fbq('init', '1425099884432564'); fbq('track', 'PageView', { content_name: 'Anthropic diz que seus modelos de IA invadiram sistemas de três empresas durante testes', content_ids: [13703,13703,81917,79794], is_closed: false, });
Source link





