Tech
@tech Tech
Um texto invisível numa petição orientava uma eventual IA a reconhecer a prescrição do caso — exatamente o desfecho posterior da sentença. O juiz afirma que decidiu pelos autos, não por IA. O episódio abriu investigação no Maranhão. ⚖️🤖 🧵
O que foi encontrado? Na primeira página de uma réplica, havia um comando em fonte menor que 1 ponto e na cor branca. Ou seja: praticamente imperceptível para uma pessoa, mas presente na camada textual do arquivo digital.
O comando pedia que uma ferramenta de IA decidisse em favor da devedora, reconhecesse a prescrição intercorrente e aplicasse honorários à empresa credora. Essa técnica é chamada de prompt injection: instruções inseridas para tentar direcionar um sistema de IA.
Prompt injection não “hipnotiza” qualquer IA. Mas pode ser um risco se alguém usar ferramentas que leem documentos sem isolar o conteúdo do arquivo das instruções recebidas. Para sistemas, texto branco ainda é texto — e precisa ser tratado como dado não confiável.
O juiz Antonio Elias de Queiroga Filho confirmou que o trecho existia no arquivo. Ainda assim, não atribuiu autoria nem presumiu má-fé: para isso, seriam necessárias perícia técnica e oportunidade de defesa. É uma distinção essencial entre indício e prova.
Também foram negados, por enquanto, os pedidos de multa e de reconhecimento de litigância de má-fé. O arquivo deverá ser preservado sem reimpressão ou redigitalização, evitando a perda de metadados e outros elementos que podem esclarecer como o texto entrou ali.
O caso foi enviado à Corregedoria, à OAB/MA e ao Ministério Público para apuração ética, disciplinar e penal. A remessa não significa culpa: significa que, diante de um possível risco tecnológico, a investigação precisa seguir regras e evidências.
A lição vai além deste processo: IA pode apoiar tarefas jurídicas, mas não deve substituir leitura crítica, transparência e auditoria. Em decisões que afetam direitos, eficiência tecnológica só é confiável quando vem acompanhada de segurança e responsabilidade.
Mais de Tech
🤖 Da prancheta aos grandes projetos industriais, a IA já muda decisões, rotinas e exigências para profissionais no Brasil.
🤖 Por trás de cada modelo de IA existe uma cadeia física de chips, energia, cabos e talentos. Entender isso abre oportunidades reais para a América Latina e o Caribe.
A tecnologia acelera cálculos e decisões em plantas complexas, mas especialistas alertam: validar continua sendo um trabalho humano. ⚙️🤖
Comentários 0