O Tribunal Superior Eleitoral (TSE) decidiu manter a proibição do uso de deepfakes nas campanhas eleitorais, mas deixou claro que a identificação de conteúdos falsificados por inteligência artificial (IA) deve seguir critérios de realismo para ser considerada ilícita. Essa situação se torna ainda mais alarmante à medida que especialistas alertam para a crescente dificuldade de distinguir o que é autêntico do que é produzido artificialmente.
Durante uma reunião do Comitê Consultivo sobre Regras de Provas da Conferência Judicial dos EUA, realizada em Boston, houve um alerta sobre o impacto das tecnologias de IA generativa, que têm avançado a passos largos. Shira Anderson, consultora de políticas da OpenAI, destacou que as imagens criadas por IA estão se tornando tão realistas que podem ser praticamente impossíveis de detectar no futuro. Essa evolução não apenas levanta questões éticas, mas também pode complicar o processo judicial, onde a veracidade das provas é fundamental.
O comitê, que debate este tema há três anos, está preocupado com a verificação de materiais que possam ser deepfakes e como garantir que as evidências geradas por IA sejam tão confiáveis quanto as tradicionais. Apesar da apreensão, os dados atuais indicam que a incidência de deepfakes em tribunais ainda é baixa. Um estudo recente revelou que apenas 15 dos 931 juízes consultados disseram ter lidado com casos onde a autenticidade de uma prova foi contestada com base na suspeita de ser um deepfake.
O juiz federal Jesse Furman, que lidera o comitê, enfatizou que, embora haja muitas discussões acadêmicas sobre o tema, a prática judicial ainda não se deparou com uma quantidade significativa de casos envolvendo deepfakes. No entanto, especialistas de diversas áreas alertam que essa realidade pode mudar rapidamente. Devin Norder, da Meta, reforçou que a tecnologia atual permite a criação de conteúdos que podem ser indistinguíveis de mídias legítimas, colocando em risco a integridade das provas judiciais.
Em resposta a essa crescente preocupação, legisladores na Califórnia e na União Europeia estão implementando novas leis que exigem o uso de marcas-d’água em conteúdos gerados por IA, com o intuito de facilitar a identificação de possíveis falsificações. Contudo, Anderson também ressaltou que não existe um método infalível para garantir a autenticidade de todos os conteúdos visuais, uma vez que cada empresa desenvolve seus próprios sistemas de verificação, que ainda apresentam limitações.
Com a evolução rápida das tecnologias de IA, o desafio de identificar e regulamentar deepfakes se torna cada vez mais complexo, exigindo uma abordagem cuidadosa e inovadora por parte de juristas, legisladores e especialistas da indústria.
Crédito da imagem: Foto: Pixabay — Michelle-Maria (pixabay)
