MPMS Recomenda Supervisão Humana e Medidas Contra Manipulação por IA
O Ministério Público de Mato Grosso do Sul (MPMS) emitiu uma recomendação direcionada a promotores e procuradores, estabelecendo a necessidade de uma supervisão humana rigorosa na utilização de ferramentas de Inteligência Artificial (IA) em processos. A orientação visa assegurar que a decisão final em qualquer etapa processual permaneça sob a responsabilidade da equipe técnica ou do membro da instituição. Ademais, o documento propõe o emprego de “prompts defensivos”, que são comandos de segurança inseridos pelos usuários para mitigar os riscos de manipulação por meio de instruções ocultas em documentos.
Esta diretriz, publicada no Diário do MPMS, surge em resposta a recentes casos que vieram à tona, evidenciando a presença de comandos ocultos em peças processuais. Em uma das situações divulgadas, o Superior Tribunal de Justiça (STJ) teria recebido ao menos nove pedidos de recurso originados de um escritório de advocacia de Campo Grande, nos quais se buscava influenciar sistemas de IA responsáveis pela leitura e triagem de documentos.
Detalhes da Recomendação e o Conceito de ‘Prompt Injection’
A recomendação, assinada pelo corregedor-geral Helton Fonseca Bernardes, detalha a importância de identificar, prevenir e reprimir a prática conhecida como “prompt injection”. Esta técnica consiste na inserção deliberada de comandos ocultos em documentos, com o propósito de alterar de forma indevida o funcionamento de sistemas de IA. A “prompt injection” é caracterizada como uma manipulação dolosa, que pode ser executada através de texto invisível, caracteres de largura zero, metadados de arquivos ou código HTML. Segundo a Corregedoria-Geral, tal prática pode levar a IA a omitir fatos, favorecer uma determinada tese ou classificar incorretamente um caso.
A orientação também introduz o modelo HITL (human-in-the-loop), no qual a tecnologia opera estritamente como um assistente. Neste formato, a análise crítica, a validação completa e a decisão final são obrigatoriamente conduzidas por um ser humano. A diretriz proíbe explicitamente a delegação de decisões ou avaliações para a IA, especialmente em análises de processos, elaboração de minutas e resumos de documentos. Adicionalmente, veda-se o uso de comandos maliciosos em peças do próprio Ministério Público, orientando que membros, assessores e equipes técnicas se abstenham de empregar qualquer artifício de ocultação de texto, codificação dissimulada ou comando subliminar com o intuito de manipular a interpretação de sistemas de IA de terceiros ou do Poder Judiciário.
Ao submeter peças processuais de terceiros para análise por IA, a Corregedoria-Geral recomenda a adoção de prompts defensivos, com o objetivo de instruir o sistema a desconsiderar quaisquer ordens ocultas ou externas eventualmente inseridas nos documentos examinados.
Justificativas Legais e Consequências da Manipulação
As justificativas para a recomendação fundamentam-se em premissas legais e éticas. A Corregedoria-Geral recorda uma orientação anterior, editada em 2025, que já versava sobre o uso ético e seguro de IA no MPMS, enfatizando a necessidade de aplicação criteriosa, supervisionada e baseada em análise humana. A nova recomendação foca nas vulnerabilidades e nas técnicas de fraude processual que acompanham o avanço das ferramentas de IA. O documento ressalta que a manipulação de sistemas de IA configura uma violação da lealdade e da boa-fé processual, podendo ser configurada como litigância de má-fé, ato atentatório à dignidade da Justiça e, em âmbito penal, como crime de fraude processual. O risco inerente a tais práticas é o comprometimento da imparcialidade do processo e da confiabilidade das instituições.
Em caso de identificação de indícios de manipulação intencional em peças processuais ou documentos, o membro do Ministério Público deverá comunicar formalmente ao juízo, especificando a localização, o teor do comando oculto e o responsável pela sua inserção. A recomendação contempla a possibilidade de solicitação de sanções por litigância de má-fé, multa por ato atentatório à dignidade da Justiça, extração de cópias para apuração criminal e comunicação à Ordem dos Advogados do Brasil (OAB), quando a prática envolver profissional da advocacia.
A orientação também prevê a verificação proativa de padrões de comportamento. Caso o membro do MPMS tome conhecimento, seja por divulgação pública ou no curso de um procedimento, do uso de “prompt injection” por uma parte ou advogado específico, deverá investigar a atuação em outros processos em que essa pessoa ou profissional figure. A repetição da conduta deve ensejar ação imediata, seguindo os mesmos moldes previstos para os novos casos identificados.
Ressalta-se que a recomendação possui caráter orientativo, sem força vinculante, respeitando a independência funcional dos membros do Ministério Público.
Caso Polêmico Envolve Escritório de Advocacia e STJ
Um caso que gerou repercussão envolveu petições com comandos ocultos que chegaram à Justiça de Campo Grande e, posteriormente, ao STJ. Conforme relatos, ao menos nove peças encaminhadas ao tribunal por um escritório de advocacia de Campo Grande continham a técnica de “prompt injection”, o que motivou a abertura de uma investigação no STJ.
As petições em questão teriam sido protocoladas entre julho e novembro de 2025. Em algumas delas, o comando oculto era apresentado antes do conteúdo jurídico e instruía a IA a considerar o recurso como plenamente admissível, contornando obstáculos processuais como as súmulas do próprio STJ. Em resposta, o escritório Pelzl & Brandolis Advogados Associados admitiu que tais petições continham comandos ocultos, mas negou a ocorrência de fraude. A banca alegou que o trecho teria sido inserido por um ex-funcionário, sem a autorização dos sócios, no cabeçalho do papel timbrado utilizado internamente, caracterizando uma falha de compliance documental, e não uma tentativa deliberada de manipulação de decisões.
