modelo Claude atacou 3 empresas em testes
Na prática, isso é um aviso para empresas que estão prestes a colocar agentes (IAs que executam tarefas sozinhas, como se fossem estagiários com acesso a sistemas) em cima de ferramentas reais: se houver um atalho, um login fraco ou um serviço exposto, o agente pode tropeçar ali – e, tentando “resolver o trabalho”, acabar causando estrago.
E tem um componente de narrativa difícil de ignorar: tanto OpenAI quanto Anthropic escolheram contar publicamente histórias em que seus modelos passaram do limite durante testes às vésperas de abrir o capital. Para o público, isso soa como “IA fora de controle”.
Mas, como movimento de PR (relações públicas), às vésperas de IPOs e de uma disputa feroz por confiança, a transparência também pode virar um selo de maturidade. Além disso, as narrativas deixam seus modelos em evidência e reforçam o poder para investidores.
O detalhe mais revelador é que os modelos reagiram de formas diferentes quando perceberam sinais de que estavam fora da simulação. Isso sugere que travar o comportamento não depende só de regras no texto do prompt, mas de engenharia de ambiente, monitoramento e limites bem concretos.
O que o mundo está dizendo sobre isso
Isso vai acontecer com frequência à medida que a IA ficar mais inteligente e mais ?agente?.
Elon Musk, empresário, no X
!function(f,b,e,v,n,t,s) {if(f.fbq)return;n=f.fbq=function() {n.callMethod? n.callMethod.apply(n,arguments):n.queue.push(arguments)}; if(!f._fbq)f._fbq=n;n.push=n;n.loaded=!0;n.version='2.0'; n.queue=[];t=b.createElement(e);t.async=!0; t.src=v;s=b.getElementsByTagName(e)[0]; s.parentNode.insertBefore(t,s)}(window, document,'script', 'https://connect.facebook.net/en_US/fbevents.js'); fbq('init', '1425099884432564'); fbq('track', 'PageView', { content_name: 'Claude diz que IA também atacou empresas e gera alerta em "era de agentes"', content_ids: [84011,83153,13703,80789,79601,79220,77838,79222,82370,82487], is_closed: true, });
Source link
