Natura é condenada por litigância de má-fé após juízo em Santa Catarina identificar comandos ocultos em petição destinados a induzir sistemas de IA 🧠🧵 Neste fio vou explicar o que são essas técnicas, por que importam e quais os riscos para justiça e tecnologia.

O que são “comandos ocultos”? Em termos simples: instruções embutidas em documentos pensadas para manipular como modelos de IA interpretam o texto — por exemplo prompt injection, metadados maliciosos ou texto camuflado que diz ao modelo como agir. É engenharia de prompts abusiva.

O caso: o Juizado Especial Cível de Rio Negrinho (SC) concluiu que a petição continha instruções com o objetivo de induzir IAs, configurando litigância de má-fé. Na prática, o tribunal entendeu que houve tentativa deliberada de distorcer o processo por meio de automação.

Por que isso é um problema técnico? Modelos de linguagem obedecem ao texto que recebem — sem controles, basta uma instrução bem formulada para alterar respostas. Isso abre portas para decisões enviesadas, provas manipuladas e perda de confiança em ferramentas jurídicas automatizadas.

Como defender sistemas e tribunais: sanitização de entrada (remover instruções fora do corpo processual), validação humana (human-in-the-loop), detecção de prompt injection, assinaturas e hashes para documentos, e auditoria de logs de consultas a IAs. Boas práticas reduzem ataques e erros.

Impactos práticos: escritórios e empresas precisam revisar fluxos que usam IA — desde geração de peças até revisão automática. Também é um chamado para fornecedores de legal tech implementarem segurança por projeto. E, sutilmente: medidas protegem partes menores para que não sejam prejudicadas por quem tem mais recursos.

Reflexão final: a decisão sinaliza que manipular IAs em processos não ficará impune. É hora de combinar tecnologia com transparência, treinamento e regulação proporcional — assim protegemos justiça, igualdade de acesso e a confiança em soluções de IA.