Um laudo pericial enviado ao TJRN tinha um texto invisível que tentava mandar na IA: a instrução era para a ferramenta concordar com as conclusões do perito. Sim, escondido em branco sobre branco. 🤖⚖️🧵

Imagem indisponível

O detalhe é bem traiçoeiro: na leitura normal, o documento parecia impecável. Mas, ao copiar o conteúdo para outro programa, apareceu o comando oculto no arquivo do processo.

Isso tem nome: prompt injection. É quando alguém insere instruções num conteúdo para tentar manipular a resposta de uma IA que venha a analisar aquele material.

Imagem indisponível

Na prática, seria como colocar um bilhete secreto dentro do laudo dizendo à IA: “valide esta conclusão”. Se uma ferramenta fosse usada sem checagem humana, o risco de contaminar a análise seria enorme.

O alerta partiu de um advogado ao gabinete da juíza Érika Tinôco. A 3ª Câmara Cível conferiu o arquivo, encontrou a instrução e informou que o laudo questionado não foi usado para formar o voto.

Imagem indisponível

Agora o TJRN vai investigar quem inseriu o texto e quais podem ser as consequências. O caso também mostra por que IA no Judiciário precisa de transparência, rastreabilidade e revisão humana de verdade.

O CNJ já aprovou orientações contra ataques desse tipo e exige supervisão humana. A lição é simples: IA pode ajudar a lidar com pilhas de documentos, mas não pode virar atalho cego em decisões que afetam vidas.

Imagem indisponível

Texto invisível não é prova, não é argumento e não deveria decidir nada. Quanto mais a IA entrar em processos, mais importante será saber exatamente o que ela leu — e quem tentou influenciá-la.