Um comando invisível inserido em uma petição pode tentar interferir no funcionamento de sistemas de inteligência artificial utilizados pelos tribunais. Casos recentes mostram que o prompt injection já chegou ao Judiciário brasileiro.
A técnica consiste em esconder instruções em documentos, metadados, links ou outros conteúdos processados por ferramentas de IA. Embora não sejam percebidos pelo leitor, esses comandos podem ser interpretados pelo sistema como ordens, com o objetivo de influenciar resumos, classificações, minutas ou recomendações.
Casos já chegaram aos tribunais
O tema ganhou repercussão após uma sentença da Justiça do Trabalho do Pará reconhecer a presença de um comando oculto em uma petição. O texto, inserido em fonte branca sobre fundo branco, buscava induzir a ferramenta de IA a fazer uma análise superficial.
A decisão considerou a conduta um ato atentatório à dignidade da Justiça e aplicou solidariamente às advogadas uma multa de 10% sobre o valor da causa, equivalente a aproximadamente R$ 84 mil. Também determinou o envio de ofícios à OAB do Pará e à Corregedoria do Tribunal Regional do Trabalho da 8ª Região.
O Superior Tribunal de Justiça informou ter identificado outras petições com comandos ocultos em seu acervo. Segundo o tribunal, as tentativas foram neutralizadas pelas camadas de segurança do STJ Logos, sistema de IA generativa desenvolvido pela corte.
O STJ determinou que as ocorrências sejam certificadas nos autos e anunciou a instauração de inquérito policial e procedimento administrativo para apurar os fatos e a eventual responsabilidade dos envolvidos. As medidas foram divulgadas em comunicado oficial do tribunal.
CNJ estabelece orientações nacionais
Diante desses episódios, o Conselho Nacional de Justiça aprovou, por unanimidade, uma manifestação técnica para proteger os sistemas de IA desenvolvidos, contratados ou utilizados pelo Poder Judiciário.
O documento cria o Programa de Segurança Adversarial para Sistemas de Inteligência Artificial do Poder Judiciário Brasileiro, o Proseg-IA. A iniciativa prevê diagnósticos de vulnerabilidade, auditorias periódicas e medidas de governança e resposta a incidentes.
A orientação também determina atenção especial aos sistemas que recebem documentos externos e produzem resumos, classificações, recomendações ou minutas. Quando forem identificados textos ocultos, comandos dissimulados ou metadados anormais, a ocorrência deverá ser certificada nos autos para que o magistrado avalie as providências cabíveis.
A Plataforma Sinapses deverá concentrar o inventário nacional dos sistemas judiciais de IA e de sua exposição a riscos de manipulação. As medidas estão detalhadas no Informativo de Jurisprudência nº 9/2026 do CNJ.
Um novo ponto de atenção para a advocacia
A resposta do Judiciário não se limita à proteção dos sistemas. O uso intencional de comandos ocultos pode gerar consequências processuais, disciplinares e, conforme o caso, investigações administrativas e criminais.
A Resolução CNJ nº 615/2025 já estabelece que a inteligência artificial deve ser utilizada de forma auxiliar, com supervisão humana, segurança, transparência e possibilidade de auditoria. As novas orientações procuram transformar esses princípios em procedimentos específicos contra tentativas de manipulação.
