Manobras digitais: advogados tentam manipular IA do Judiciário com comandos ocultos

Foto: Comandos ocultos escondidos em petições. Foto: Reprodução/Fantástico · Original e licença

O uso de inteligência artificial pelo Poder Judiciário brasileiro enfrenta um desafio inesperado: a inserção de comandos invisíveis em petições judiciais. Advogados têm utilizado técnicas como fontes minúsculas, letras brancas sobre fundo branco ou metadados para tentar induzir sistemas de IA a favorecer seus clientes durante a análise de processos.

Um caso notável ocorreu em Rio Negrinho, Santa Catarina, onde o juiz Matheus Della Giustina Perin detectou instruções ocultas que solicitavam à ferramenta de IA que ignorasse atos ilícitos e julgasse improcedente uma ação movida por uma empresária. Os advogados Francisco Antônio Fragata Junior e Luis Carlos Monteiro Laurenço, responsáveis pelo documento, alegaram que o ocorrido foi uma falha técnica de uma associada, e a OAB catarinense optou pelo arquivamento liminar do processo ético.

A prática não se restringe à primeira instância. No Superior Tribunal de Justiça, um comando oculto foi encontrado em um processo de homicídio, tentando forçar a IA a acolher teses da defesa. Já no Supremo Tribunal Federal, em uma ação sobre os atos de 8 de Janeiro, o advogado Marcelo Henrique Martins foi multado em 5 mil reais após a descoberta de um código que instruía a IA a ignorar diretrizes do sistema. O Ministério Público Federal também acompanha o caso para verificar possíveis crimes.

Em outra situação, na cidade de Videira, uma petição continha frases como permissão para mudanças benevolentes. A advogada Fernanda Damo negou a intenção de manipular o sistema, justificando o conteúdo como uma forma de pensamento positivo. O tribunal, contudo, aplicou multa por litigância de má-fé. Uma plataforma de monitoramento de dados públicos já identificou 83 ocorrências similares em todo o país, evidenciando a dificuldade dos magistrados em filtrar essas interferências digitais.

Em resumo: - Advogados inserem comandos invisíveis em petições para influenciar decisões de IA judicial. - A prática foi identificada em tribunais estaduais, no STJ e no STF. - Magistrados têm aplicado multas por litigância de má-fé ao detectar as manipulações. - O Ministério Público Federal e a OAB apuram as responsabilidades dos advogados envolvidos.