Comandos ocultos: um novo alerta sobre o uso de IA no Judiciário
Prezados clientes e colaboradores:
A inteligência artificial vem transformando a prática jurídica e já é utilizada em diversas atividades, inclusive por tribunais. Ao mesmo tempo em que tende a ampliar a eficiência, a tecnologia também traz novos riscos. Um deles é o chamado prompt injection em documentos apresentados em processos judiciais, incluindo petições e arquivos anexados aos autos.
A prática consiste na inserção de comandos ocultos em petições, contratos, relatórios, pareceres ou outros documentos juntados ao processo, com o objetivo de influenciar sistemas de IA utilizados na análise de informações e no apoio à tomada de decisões. Em alguns casos recentes, os comandos foram inseridos em trechos invisíveis ao leitor humano, mas identificáveis por ferramentas automatizadas.
O tema ganhou destaque após decisões judiciais que apontaram a prática como potencial violação aos deveres de lealdade e boa-fé processual, com aplicação de multas e determinação de apuração disciplinar perante a Ordem dos Advogados do Brasil e as corregedorias competentes.
O assunto também chamou a atenção do Superior Tribunal de Justiça, que identificou tentativas semelhantes em petições de seu acervo processual. Segundo a Corte, os comandos foram neutralizados pelas camadas de segurança do sistema utilizado, mas os casos foram registrados nos autos para eventual apuração de responsabilidades e aplicação de sanções cabíveis.
O tema também passou a integrar a agenda institucional do Conselho Nacional de Justiça. Em manifestação técnica recente, o Comitê Nacional de Inteligência Artificial do Judiciário (CNIAJ) recomendou a adoção de medidas de segurança voltadas à prevenção e à detecção de comandos ocultos em documentos processuais, além da implementação de mecanismos de rastreabilidade e resposta a incidentes, reconhecendo a crescente exposição dos sistemas judiciais de IA a técnicas de manipulação adversarial.
Mais do que uma discussão disciplinar, o tema pode produzir efeitos concretos sobre os interesses das próprias partes. A identificação de comandos ocultos em petições ou documentos pode comprometer a credibilidade das informações apresentadas, gerar sanções processuais e influenciar a percepção do Judiciário quanto à boa-fé processual, com potenciais reflexos na condução e até mesmo no resultado da demanda.
Nesse contexto, a atenção aos documentos produzidos ou revisados com apoio de inteligência artificial passa a integrar a própria estratégia processual. Nossa equipe acompanha de perto a evolução do uso dessas ferramentas no ambiente judicial e seus reflexos sobre os litígios, auxiliando clientes na avaliação de riscos e na definição de estratégias voltadas à proteção de seus interesses em disputas complexas.