dezenas de apps de ‘despir’ por IA estão disponíveis para crianças
Um dos aplicativos tinha classificação indicativa para usuários a partir de 9 anos, embora prometesse despir digitalmente qualquer pessoa. Outro, anunciado com uma imagem sexual explícita, era classificado como apropriado para crianças a partir de 4 anos.
Pesquisadores também conseguiram assinar um aplicativo com uma conta de 13 anos sem que o responsável vinculado recebesse alerta. Em outro teste, a Apple permitiu que uma conta registrada para um adolescente declarasse ter 17 anos para baixar um app com restrição etária.
Empresas retiraram parte dos aplicativos
Apple e Google proíbem a distribuição de aplicativos desse tipo em suas lojas, mas os pesquisadores afirmam que as plataformas dependem em grande parte da classificação informada pelos desenvolvedores. A Apple retirou 25 dos apps durante a pesquisa, e o Google removeu seis.
Os aplicativos removidos continuaram funcionando nos celulares em que já estavam instalados. A Apple passou a exigir que desenvolvedores previnam e removam imagens íntimas não consentidas, inclusive as geradas por IA.
O Google afirma que detecta e remove proativamente aplicativos com conteúdo nocivo. A empresa declarou que suspendeu apps irregulares e restringiu termos de busca relacionados em sua loja.
