O avanço da inteligência artificial no Poder Judiciário tem gerado ganhos relevantes de produtividade para tribunais, escritórios e departamentos jurídicos. Ao mesmo tempo, episódios recentes envolvendo a inserção de comandos ocultos em petições judiciais acenderam um alerta importante para a advocacia brasileira: o risco do chamado prompt injection.
A técnica consiste na inclusão de instruções ocultas em documentos processuais com o objetivo de interferir no funcionamento de sistemas de IA utilizados pelos tribunais. Assim, em vez de apenas apresentar argumentos jurídicos ao magistrado, o documento passa a conter comandos dirigidos à ferramenta tecnológica, com potencial para influenciar análises automatizadas, resumos processuais e outros mecanismos auxiliares de apoio à atividade jurisdicional.
Repercussão no Judiciário
O tema ganhou repercussão nacional após episódios registrados na Justiça do Trabalho e, mais recentemente, após o Superior Tribunal de Justiça informar que passou a apurar tentativas de manipulação de ferramentas de IA por meio de petições processuais. Segundo informações divulgadas pela Corte, foram identificados comandos ocultos em documentos do acervo processual, o que motivou a adoção de providências voltadas à apuração de responsabilidades e à eventual aplicação de sanções processuais, administrativas e criminais.
Em um dos casos de maior repercussão, advogadas foram multadas após a identificação de instruções ocultas dirigidas a sistema de IA utilizado no ambiente judicial, em tentativa de induzir uma análise processual mais favorável. A conduta foi tratada, na decisão, como incompatível com a boa-fé processual e com os deveres de lealdade e integridade que orientam a atuação em juízo.
Onde está o problema
Do ponto de vista técnico, o problema decorre de uma limitação conhecida dos modelos de linguagem: a dificuldade de distinguir, com absoluta segurança, o que constitui conteúdo do documento e o que representa uma instrução operacional. Por isso, comandos ocultos podem tentar levar a IA a ignorar diretrizes originais do sistema, flexibilizar filtros de segurança ou privilegiar determinada interpretação.
Tendências na advocacia
Para os escritórios de advocacia, o episódio impõe reflexões importantes. O uso ético da inteligência artificial deixa de ser apenas uma questão tecnológica e passa a integrar a agenda de compliance, governança e responsabilidade profissional. A adoção dessas ferramentas exige políticas internas claras, capacitação das equipes e revisão criteriosa dos documentos produzidos.
O episódio também reforça a necessidade de supervisão humana contínua. A inteligência artificial pode apoiar a atividade jurídica, mas não substitui o juízo técnico, ético e estratégico que cabe ao advogado.
A tendência é que tribunais, órgãos de classe e instâncias regulatórias passem a tratar o prompt injection como prática incompatível com a integridade do processo e com o uso responsável da tecnologia no sistema de Justiça. Em um cenário de crescente convergência entre Direito e inovação, a advocacia precisará se adaptar com rapidez para assegurar que a transformação digital avance sem comprometer a confiança institucional.
Projeções para o futuro
Diante desse cenário, torna-se essencial que escritórios de advocacia, tribunais e desenvolvedores de soluções jurídicas adotem medidas preventivas para reduzir os riscos de prompt injection. Isso inclui mecanismos técnicos aptos a identificar comandos ocultos em documentos, auditorias periódicas em ferramentas de IA, políticas internas de uso responsável e treinamento contínuo de advogados e equipes jurídicas em segurança da informação e ética aplicada à tecnologia. Também é esperado que a arquitetura das soluções empregadas pelo Judiciário evolua para separar, com maior segurança, o conteúdo jurídico das instruções operacionais, reduzindo vulnerabilidades exploráveis.
Ao mesmo tempo, o tema demanda um debate institucional mais amplo. A incorporação da inteligência artificial à advocacia não pode ocorrer sem transparência, governança e responsabilização. O momento atual abre espaço para que a OAB, os tribunais e o setor jurídico consolidem diretrizes mais claras sobre o uso ético da IA em processos judiciais, estabelecendo limites, boas práticas e parâmetros de controle. Mais do que um desafio tecnológico, o prompt injection evidencia a necessidade de repensar como o Direito conviverá com sistemas inteligentes nos próximos anos — e qual será o papel dos profissionais jurídicos na preservação da confiança e da integridade do sistema de Justiça.
–
Advogados autores do comentário: Hiago Andrioti Cordioli e Cesar Peduti Filho, Peduti Advogados
–
Para mais informações sobre o tema, entre em contato com os autores ou com o Dr. Cesar Peduti Filho.
For more information on this topic, please contact the authors or the managing partner, Dr. Cesar Peduti Filho.
