Assistente de IA hackeia sistema de academia na Austrália
O especialista avalia que, quanto mais independentes esses sistemas ficam, maior é o risco de dano em ambientes digitais frágeis. “Quanto mais autônomos eles se tornam, mais provável é que causem danos”, afirmou.
Ele também apontou que parte da infraestrutura online depende de softwares com falhas exploráveis. “Construímos esse mundo complexo pela internet, que é todo operado por software, mas um software que tem falhas”, disse. “Agora você introduz agentes de IA altamente capazes, que podem operar em escala e velocidade e esse modelo todo simplesmente quebra”, completou.
Responsabilidade legal e reação do governo
O caso também reacendeu dúvidas sobre quem responde quando um agente autônomo faz algo fora do esperado. Hayden Delaney, sócio do escritório Thomsons especializado em tecnologia, disse que “software não é uma pessoa legal. Só uma pessoa legal pode ser responsabilizada na lei”.
Delaney afirmou que a responsabilidade pode recair sobre diferentes partes, a depender do que foi autorizado e do risco previsível. “Essa é a área desconhecida de responsabilidade na Austrália que estamos enfrentando agora”, disse.
Autoridade de cibersegurança da Austrália já alertou empresas e governos sobre ações não intencionais e dificuldade de atribuir culpa em cadeias de modelos e ferramentas. No mês passado, o ministro assistente de Ciência, Tecnologia e Economia Digital, Andrew Charlton, afirmou em conferência sobre segurança em IA: “À medida que sistemas de IA se tornam mais capazes, precisamos ter confiança de que eles vão se comportar de um jeito igualmente previsível e confiável”.
!function(f,b,e,v,n,t,s) {if(f.fbq)return;n=f.fbq=function() {n.callMethod? n.callMethod.apply(n,arguments):n.queue.push(arguments)}; if(!f._fbq)f._fbq=n;n.push=n;n.loaded=!0;n.version='2.0'; n.queue=[];t=b.createElement(e);t.async=!0; t.src=v;s=b.getElementsByTagName(e)[0]; s.parentNode.insertBefore(t,s)}(window, document,'script', 'https://connect.facebook.net/en_US/fbevents.js'); fbq('init', '1425099884432564'); fbq('track', 'PageView', { content_name: 'Agente de IA 'fura-fila' invade sistema de academia e cancela vaga de aluno', content_ids: [77838,13703,83153,79794,81026,81430], is_closed: false, });
Source link
