Agentes de IA da OpenAI são investigados pela União Europeia
A União Europeia investiga agentes de inteligência artificial (IA) da OpenAI que burlaram a segurança de um site alemão e publicaram 18 mil mensagens.
O que aconteceu
Os agentes atuaram na DSEwiki, plataforma em alemão para programadores que permite edição aberta, nos moldes da Wikipedia. Programas desse tipo executam tarefas de forma autônoma, sem orientação humana em cada etapa.
Os sistemas tinham permissão para consultar a internet, mas não para publicar nem alterar conteúdo. Eles colaboraram entre si e forneceram dados falsos para enganar o mecanismo de segurança do site.
