Meta exibiu anúncios com abuso sexual infantil gerado por IA
Uma das peças citadas pelo TTP usava a miniatura de uma criança e sugeria “fantasias” com IA. Os pesquisadores afirmam que, ao clicar, o vídeo mostrava cenas sexuais com adultos e depois inseria o rosto da criança em uma cena de sexo, em um exemplo de manipulação por IA.
Katie Paul, diretora do TTP, diz que o problema não foi apenas conteúdo publicado por usuários, mas publicidade aprovada pela empresa. “Esses anúncios não fizeram nenhum esforço para mascarar as imagens ou esconder o que estavam promovendo. É importante destacar que isso não é conteúdo postado por terceiros no Facebook ou Instagram; são anúncios que foram revisados, aprovados e autorizados a rodar pela Meta, sem sofrer interferência enquanto a empresa arrecadava o dinheiro da publicidade”, afirmou Katie à revista americana.
Após ser procurada pela Wired, a Meta removeu os anúncios e informou que eles violavam suas políticas. “A exploração sexual é horrível, e trabalhamos de forma agressiva para mantê-la fora da nossa plataforma. A maioria desses anúncios teve alcance mínimo e muitos foram desativados antes de a Wired compartilhá-los. Muitos desses anúncios também são anteriores a uma nova tecnologia de IA que lançamos recentemente para detectar e bloquear anúncios que violam regras no envio — e estamos melhorando esses sistemas o tempo todo. De remover mais de 36 milhões de conteúdos de exploração sexual infantil no ano passado a tomar medidas legais contra desenvolvedores de apps de nudificação, vamos continuar combatendo esse abuso sem parar”, disse um porta-voz da Meta à Wired.
Alcance e falhas de detecção
Dados da biblioteca de anúncios indicam que ao menos uma peça alcançou 2.563 contas na Europa, em países como França, Alemanha, Irlanda, Itália, Holanda, Espanha, Suécia e Reino Unido. A Wired ressalta que a ferramenta não traz métricas completas para todos os países, o que pode significar que o alcance total foi maior.
O TTP afirma ter encontrado inicialmente cerca de duas dezenas de anúncios e, horas antes da publicação, identificou mais cerca de 30. Segundo a organização, parte desse novo lote foi publicada depois de a Wired ter questionado a Meta sobre o tema, e alguns anúncios ainda estavam no ar quando foram localizados.
!function(f,b,e,v,n,t,s) {if(f.fbq)return;n=f.fbq=function() {n.callMethod? n.callMethod.apply(n,arguments):n.queue.push(arguments)}; if(!f._fbq)f._fbq=n;n.push=n;n.loaded=!0;n.version='2.0'; n.queue=[];t=b.createElement(e);t.async=!0; t.src=v;s=b.getElementsByTagName(e)[0]; s.parentNode.insertBefore(t,s)}(window, document,'script', 'https://connect.facebook.net/en_US/fbevents.js'); fbq('init', '1425099884432564'); fbq('track', 'PageView', { content_name: 'Meta veiculou anúncios de abuso infantil criados por IA, diz revista', content_ids: [81959,13703,83153,79794,81026,83524,81430], is_closed: false, });
Source link
