Justiça paulista flagra uso indevido de IA em processos; advogado é penalizado
A Justiça de São Paulo identificou uma inédita tentativa de fraude em ações judiciais que utilizava inteligência artificial para manipular decisões. O caso envolve um advogado que apresentou petições padronizadas com comandos ocultos, visando induzir o sistema a conceder benefícios de forma indevida.
A descoberta ocorreu durante o uso supervisionado de ferramentas de IA pelos magistrados, seguindo a resolução do Conselho Nacional de Justiça (CNJ) que exige revisão humana obrigatória. A prática, considerada abusiva, levou à aplicação de multa e envio do caso a órgãos de controle.
Além de São Paulo, a Justiça do Trabalho também registrou um caso semelhante, onde advogadas foram multadas por tentarem manipular a IA. As informações foram divulgadas pelo Tribunal de Justiça de São Paulo (TJSP).
Comandos Invisíveis para Enganar a IA
No Judiciário paulista, os magistrados encontraram em petições um método engenhoso: comandos escritos em fonte branca sobre fundo branco, tornando-os invisíveis ao olho humano, mas interpretáveis por um suposto agente de IA. Esses comandos orientavam a concessão de justiça gratuita, tutela de urgência e a citação do réu.
Um juiz classificou a conduta como perniciosa, abusiva e inaceitável, reconhecendo fraude processual e litigância de má-fé. Como resultado, os pedidos foram rejeitados e o advogado foi multado em 10 salários mínimos.
Advogado e Advogadas Envolvidos em Manipulação de IA
O advogado envolvido no caso em São Paulo teve sua conduta reportada ao Ministério Público, à Corregedoria-Geral da Justiça e à OAB de São Paulo e Santa Catarina. A inteligência artificial, apesar de sua capacidade, demonstrou vulnerabilidade a manipulações quando não supervisionada adequadamente.
Paralelamente, na Justiça do Trabalho, duas advogadas foram penalizadas por litigância de má-fé. Elas teriam utilizado a técnica de “prompt injection”, inserindo comandos na petição para manipular a inteligência artificial a gerar resultados favoráveis à parte autora.
O Que é “Prompt Injection” e Como Funciona
A técnica de “prompt injection” explora falhas em sistemas de IA que possuem poucas travas de segurança. Profissionais mal-intencionados se aproveitam da capacidade de sistemas automatizados em interpretar solicitações como comandos legítimos.
Chatbots, por serem modelos baseados em probabilidade, muitas vezes não conseguem distinguir dados, comandos e contexto. Isso abre margem para que solicitações disfarçadas sejam executadas como se fossem instruções diretas, levando a resultados inesperados ou fraudulentos.
Revisão Humana é Essencial na Era da IA
O Tribunal de Justiça de São Paulo enfatizou que a detecção da irregularidade ocorreu durante o uso supervisionado de ferramentas de IA. A Resolução CNJ nº 615/25 é clara ao proibir decisões judiciais automatizadas e reforçar a obrigatoriedade da revisão humana.
Esses casos servem como um alerta para a necessidade de cautela e regulamentação no uso da inteligência artificial no âmbito jurídico, garantindo a integridade e a justiça dos processos.
