O avanço da inteligência artificial na rotina de tribunais brasileiros trouxe um alerta importante para a segurança cibernética do Judiciário. Programas conhecidos como agentes de IA, criados para automatizar tarefas diárias, correm o risco de sofrer manipulação externa para acessar e expor dados sigilosos de processos, além de senhas de servidores e magistrados.
Riscos e vulnerabilidades no Judiciário O aviso partiu do juiz federal George Marmelstein, que integra o Comitê Nacional de Inteligência Artificial do Judiciário, vinculado ao Conselho Nacional de Justiça (CNJ). A preocupação surge após episódios em que advogados inseriram instruções ocultas em documentos para tentar influenciar análises de juízes. A técnica, chamada de prompt injection, já resultou em multas aplicadas pelo Superior Tribunal de Justiça (STF) e pelo Supremo Tribunal Federal (STF).
O especialista em cibersegurança Matheus Vasconcelos explica que esses ataques exploram a dificuldade dos sistemas de diferenciar o conteúdo que devem analisar e as instruções que precisam executar. “Existem mecanismos para diferenciar essas origens, mas podem falhar, especialmente quando o comando malicioso se apresenta como uma orientação oficial ou uma etapa necessária do trabalho”, afirma.
Diferença entre uso comum e agentes autônomos Enquanto o uso tradicional exige que uma pessoa decida o que fazer com a resposta da máquina, o agente autônomo executa tarefas em série sem supervisão contínua. Ele pode abrir arquivos, enviar e-mails e rodar códigos por conta própria.
“Os agentes apertam botões, executam códigos, criam documentos. Eles têm essa questão do fazer. E, ao fazer, pode haver uma influência para que ele rode um código [de um programa] e esse código seja malicioso, no sentido, por exemplo, de pegar suas credenciais, pegar seus dados. E isso é um risco maior”, aponta Marmelstein.
Medidas de segurança e monitoramento Diante do cenário, o CNJ aprovou o Programa de Segurança Adversarial para Sistemas de Inteligência Artificial do Poder Judiciário (PROSEG-IA). O ministro Luis Felipe Salomão, presidente do STJ, informou que a corte já identificou dezenas de casos suspeitos após analisar milhões de peças processuais.
“Nós analisamos quase 6 milhões de peças pelo sistema, apontamos 116 casos suspeitos, confirmamos, após uma análise humana, 40 casos e detectamos 1 caso a cada 150.000 peças”, afirmou Salomão.
Desafios regulatórios e fiscalização A expansão tecnológica também levanta debates sobre igualdade processual, uso de plataformas comerciais e dificuldades de fiscalização. A professora Ana Frazão, da UnB, expressa preocupação com o impacto na paridade de armas entre as partes.
“Me preocupa muito a gente ter um cenário em que a disputa processual não seja a disputa pelo melhor Direito, mas daqui a pouco seja a disputa por quem tem a melhor tecnologia, porque aí eu vou conseguir burlar, ou induzir, ou de alguma maneira influenciar o sistema de inteligência artificial que vai julgar a minha causa”, afirma.
Sobre as ferramentas comerciais, a acadêmica questiona: “Será que quando eu pergunto para um deles [uma plataforma de IA], para que faça uma petição de uma questão, vamos imaginar uma questão tributária que seja contrária aos interesses daquele agente [a empresa dona da ferramenta], ele realmente vai me apresentar ali um resultado que seja absolutamente equidistante?” “O CNJ entende que não pode proibir [o uso de plataformas comerciais]. Eu acho que ele não só pode, como deve, já que você está diante de uma tecnologia que pode ser incompatível com as garantias do processo judicial, o que gera riscos enormes.”
Por fim, Marmelstein pontua que a regulamentação permitiu o uso de modelos de grandes empresas enquanto o Judiciário não desenvolve soluções próprias consolidadas. “Nós tivemos um grande debate sobre isso, foi um dos pontos de divergência, porque de fato esse é um tema ainda novo, todos têm uma compreensão de que o ideal seria que cada tribunal, que o Poder Judiciário brasileiro tivesse uma IA soberana, com proteção de dados, com treinamento especializado nos nossos interesses e nos nossos valores e critérios”, conclui.
