incidente de ataque de agente de IA atingiu outras plataformas
Segundo uma atualização do relatório sobre o incidente, publicada na noite de ontem, as duas IAs também usaram vários sites de acesso livre para copiar códigos de programação ou testá-lo, mas sem ir além do que um usuário comum faria.
Para a Hugging Face, que por sua vez publicou um extenso relato dos acontecimentos, a invasão que sofreu foi uma “tentativa (dos dois modelos) de trapacear a avaliação” da OpenAI.
As IAs quiseram “roubar as soluções dos testes em vez de tentar respondê-las por si próprias”.
Esta evasão de modelos não é a primeira a ser documentada, mas é considerada a mais grave até o momento. Deu um novo impulso ao já robusto debate sobre a aceleração da IA, cujas capacidades são cada vez mais amplas, e sobre a dificuldade de controlá-la.
Ontem, mais de 1.000 funcionários de gigantes da IA, entre eles vários diretores, pediram ao governo americano que ajude a “frear” o lançamento de novos modelos para dar tempo ao ecossistema informático se preparar.
Eles defendem, em uma petição, que os Estados Unidos sejam o motor da criação de uma instância internacional de referência no tema da avaliação e supervisão da IA.
