O avanço acelerado da inteligência artificial generativa coloca em risco a confiabilidade de evidências apresentadas em processos judiciais. Representantes de gigantes da tecnologia como OpenAI e Meta fizeram um alerta severo sobre a evolução das chamadas deepfakes, mídias falsificadas que simulam áudios, imagens e vídeos com extrema fidelidade.
O impacto das fraudes digitais no sistema de justiça
O aviso ocorreu durante um encontro do Comitê Consultivo sobre Regras de Provas da Conferência Judicial dos Estados Unidos, realizado em Boston. Há três anos, o grupo debate estratégias para blindar os tribunais contra os perigos de materiais manipulados, que já confundem tanto indivíduos quanto softwares especializados.
“As imagens geradas por IA estão ficando cada vez melhores, e não acredito que haja, no futuro, uma maneira científica de detectá-las”, disse Shira Anderson, consultora de políticas da OpenAI.
Desafios na validação de provas materiais
Desde 2023, magistrados e pesquisadores discutem métodos para atestar a autenticidade de arquivos suspeitos, exigindo padrões rigorosos comparáveis aos aplicados em perícias tradicionais. Embora o volume de ocorrências registradas na justiça americana ainda seja baixo, autoridades do setor reforçam que a ameaça é real e iminente.
Dados divulgados pelo Centro Federal do Judiciário indicam que apenas 15 de 931 juízes consultados lidaram com contestações de provas baseadas em suspeitas de falsificação digital. “Há muitos comentários acadêmicos e de outras fontes prevendo que os tribunais terão de lidar com deepfakes, mas ainda não vimos muitos casos desse tipo”, disse o juiz federal Jesse Furman, de Manhattan, que preside o comitê.
A facilidade de acesso a essas tecnologias agrava o cenário. Conforme explicou Devin Norder, diretor de gestão de produtos da Meta, a criação de mídias sintéticas de alta qualidade demanda investimentos mínimos de tempo e recursos financeiros, tornando o material praticamente idêntico ao conteúdo original.
Regulamentação e limites das marcas d’água
Como resposta preventiva, legislações recentes adotadas na Califórnia e na União Europeia passaram a obrigar a inserção de marcas d’água em produções automatizadas, facilitando o rastreio da origem digital.
Contudo, especialistas ressaltam que tais mecanismos ainda possuem falhas técnicas consideráveis. A ausência de um padrão global unificado e a diversidade de sistemas adotados por cada desenvolvedor impedem que a checagem seja totalmente segura.
“Minha impressão é que isso certamente continuará melhorando”, disse Shira Anderson, acrescentando na sequência: “Não acho que algum dia será à prova de falhas.”
