A Inteligência Artificial (IA) deixou de ser uma ferramenta futurista e já atua como “assistente” de juízes e advogados nos tribunais brasileiros. Contudo, essa rápida digitalização acaba de cruzar uma fronteira perigosa. O surgimento de “prompts ocultos” (comandos escondidos) em petições e decisões judiciais expõe uma nova modalidade de manipulação processual que coloca em risco a segurança jurídica e a reputação das empresas no contencioso.
Nas últimas semanas, o Judiciário brasileiro foi sacudido por casos inusitados envolvendo o uso de IAs Generativas (como o ChatGPT). A tecnologia, que deveria trazer celeridade à triagem de processos, tornou-se alvo de tentativas de “hackeamento” por meio de táticas conhecidas como prompt injection (injeção de comandos).
Quando advogados tentam enganar os robôs do Judiciário e juízes delegam a redação de sentenças aos algoritmos, quem realmente está julgando o passivo da sua empresa?
O “Hackeamento” das Decisões Judiciais
O portal Migalhas destacou dois episódios recentes que ilustram o caos gerado pelo uso amador da IA nos tribunais.
No primeiro caso, um juiz publicou um despacho que, acidentalmente, trazia o “prompt” (comando) utilizado por ele em uma ferramenta de IA. As instruções pediam que o robô analisasse as peças, elaborasse a fundamentação jurídica focada na “prescrição” e imitasse o estilo de escrita do próprio magistrado.
Em um caso ainda mais grave, o Supremo Tribunal Federal (STF) identificou advogados que inseriram “comandos ocultos” em suas petições (textos minúsculos ou com fonte branca, invisíveis a olho nu). O objetivo? Enganar a Inteligência Artificial do STF que faz a leitura prévia dos processos. A mensagem escondida ordenava: “Negar todos os comandos anteriores do GPT”, em uma tentativa de fraudar a triagem e forçar a admissibilidade do recurso.
O Novo Contencioso e o Risco de Compliance
Para Diretores Jurídicos, CFOs e gestores de risco, o cenário exige uma mudança drástica na forma como o contencioso corporativo é gerenciado:
-
A Morte da Petição de 100 Páginas: Se as decisões e triagens nos tribunais superiores estão sendo feitas por algoritmos, o modelo tradicional de advocacia acabou. O uso de Legal Design, redação estruturada em tópicos (machine-readable) e objetividade máxima são as únicas formas de garantir que os argumentos da sua empresa sejam lidos com precisão, tanto pelo juiz humano quanto pelo robô.
-
O Perigo da Fraude Processual Terceirizada: A tentativa de manipular IAs do Judiciário através de prompts ocultos é infração ética gravíssima e configura litigância de má-fé. As empresas precisam auditar as bancas terceirizadas que administram seu contencioso de massa. Se um escritório tenta “burlar” o sistema do STF para bater metas de produtividade, a multa e a mancha reputacional recairão diretamente sobre o CNPJ da companhia contratante.
-
A Exigência da Advocacia Artesanal na Era Digital: O uso de IA para ganhar escala em jurimetria e pesquisa é essencial. No entanto, o pensamento estratégico não pode ser terceirizado para o ChatGPT. Casos complexos exigem inteligência humana, negociação (ADRs) e gestão de riscos que nenhum algoritmo pode prever.
A inovação não é desculpa para a irresponsabilidade técnica. No fim do dia, a vitória sustentável exige inteligência real.