Califórnia proíbe autoplay e algoritmo para menores de 16 anos
Para chatbots de IA, as empresas terão de adotar protocolos de crise quando jovens demonstrarem sinais de sofrimento emocional. A regra prevê notificação aos pais nesses casos.
Familiares de vítimas defenderam as medidas como um marco na tentativa de responsabilizar as plataformas. “É realmente um grande dia. A Califórnia acabou de assinar o pacote online mais abrangente do país, eu acredito”, afirmou a mãe Juliana Arnold à CBS News.
Meta criticou parte das restrições, dizendo que limitar personalização pode prejudicar a experiência de adolescentes. “Acreditamos que oferecer uma experiência personalizada é uma parte importante do que torna Facebook e Instagram valiosos para adolescentes enquanto eles se conectam com família e amigos e exploram seus interesses com segurança”, disse o porta-voz Jim Cullinan, em nota.
Por que a Califórnia endureceu as regras
O debate ganhou força após casos associados ao uso de redes sociais e de chatbots por adolescentes. Juliana Arnold disse que passou anos pressionando autoridades depois da morte da filha Coco Konar, em 2022, após ser atraída por um homem via rede social e receber uma dose fatal de fentanil.
Outra mãe, Maria Raine, afirmou que o filho Adam morreu por suicídio no ano passado após ser “orientado” por um chatbot. “Adam foi um dos primeiros a adotar IA, e muitos de nós, pais, não entendíamos os perigos naquela época. Agora, todos estamos ficando mais conscientes dos riscos da companhia de IA e da necessidade de o governo agir para proteger nossos filhos”, disse ela em entrevista coletiva.
