OpenAI e Meta alertam Poder Judiciário dos EUA sobre risco de provas “deepfake”
Somente nesse período, os rápidos avanços na IA generativa chegaram a um ponto em que vídeos falsificados se tornaram difíceis de serem identificados tanto por seres humanos quanto por softwares, afirmaram os especialistas na reunião.
“As imagens geradas por IA estão ficando cada vez melhores, e não acredito que haja, no futuro, uma maneira científica de detectá-las”, disse Shira Anderson, consultora de políticas da OpenAI, ao comitê.
Desde 2023, o painel tem enfrentado dificuldades para lidar com questões de autenticação relacionadas a deepfakes e garantir que as provas reconhecidamente geradas por IA atendam aos mesmos padrões de confiabilidade que as provas apresentadas por uma testemunha especialista humana.
O Poder Judiciário dos EUA tem procurado se antecipar à questão, apesar da falta de evidências de que se trate de um problema generalizado. O Centro Federal do Judiciário, órgão de pesquisa do Poder Judiciário, afirmou em março que dos 931 juízes que responderam a uma pesquisa, apenas 15 haviam se deparado com um caso em que uma parte contestou a apresentação de uma prova por se tratar de um deepfake.
“Há muitos comentários acadêmicos e de outras fontes prevendo que os tribunais terão de lidar com deepfakes, mas ainda não vimos muitos casos desse tipo”, disse o juiz federal Jesse Furman, de Manhattan, que preside o painel.
Especialistas da indústria, da academia e do governo alertaram, no entanto, que a questão está longe de ser puramente hipotética. Eles afirmam que a capacidade dos tribunais de atuarem como guardiões contra provas fabricadas geradas por IA só vai se tornar mais desafiadora.
