apps de IA escondem cenas abusivas
A apuração encontrou no serviço recursos associados à criação de imagens sexuais abusivas. Os comandos incluiam cenas chamadas de ‘abuso no quarto’ e ‘faca ameaçadora’ .
A camuflagem que enganou Apple e Google
O sistema mostrava telas diferentes dependendo de quem estava acessando. A técnica, chamada no setor de segurança de camuflagem digital (cloaking), faz o aplicativo consultar um servidor externo no momento da instalação para checar o endereço IP, o país e a origem do clique antes de liberar qualquer recurso.
Revisores das lojas de aplicativos visualizavam apenas a versão inofensiva. Durante os testes de aprovação da Apple App Store e da Google Play Store, o servidor entregava o aplicativo comum de pets; já os usuários que clicavam em anúncios pagos nas redes da Meta recebiam a interface oculta com o gerador de deepfakes sexuais explícitos.
As cobranças passavam pelas carteiras oficiais das gigantes de tecnologia. Os pacotes de créditos necessários para gerar as montagens eram cobrados por meio do Apple Pay e do Google Pay, permitindo que a rede monetizasse o esquema diretamente pelas ferramentas de pagamento dos sistemas operacionais.
Conexões na China e anúncios na Meta
O rastreamento começou após a identificação de propagandas em vídeo no Instagram. Especialistas da organização AI Forensics localizaram a malha de aplicativos ao cruzarem dados de campanhas publicitárias que promoviam imagens sexuais geradas por IA nas plataformas da Meta e levavam o público para as lojas oficiais.
