Uma petição tentou esconder comandos para induzir sistemas de IA do STF a favorecer um recurso — usando letras brancas e minúsculas. 🤖⚖️ O “prompt injection” chegou à mais alta Corte do país. Se a máquina lê documentos, quem está tentando instruí-la? 🧵

Imagem indisponível

O caso apareceu no ARE 1.608.713. Segundo o STF, instruções ocultas buscavam fazer a IA “conhecer e dar provimento” ao recurso. Palavras ainda foram fragmentadas para dificultar a detecção. Fraude processual ganhou uma camada digital?

A tentativa foi detectada pela Maria Shield, função da plataforma Maria, IA interna do STF voltada a identificar padrões e conteúdos potencialmente maliciosos. A pergunta técnica é direta: quantos ataques desse tipo passam despercebidos em sistemas menos preparados?

Imagem indisponível

Prompt injection não é hackear o código da IA. É manipular o conteúdo que ela recebe para tentar desviar sua resposta. Parece simples — e justamente por isso preocupa: PDFs, e-mails e petições podem virar vetores de ataque invisíveis.

Zanin informou que seu gabinete não usa IA para analisar ou fundamentar processos. O recurso já havia sido negado antes da descoberta, então não houve impacto na decisão. Mas, quando o uso de IA crescer no Judiciário, essa garantia continuará tão clara?

Imagem indisponível

O relator votou por multa de dois salários mínimos por violação do dever de lealdade processual e mandou comunicar OAB e MPF. A punição será suficiente para desestimular a prática — ou tribunais precisarão de protocolos públicos e auditorias permanentes?

A IA pode acelerar tarefas repetitivas e ampliar o acesso à Justiça, mas não pode se tornar uma caixa-preta vulnerável a truques de formatação. O primeiro caso exposto pelo STF deixa um aviso: segurança de IA não é detalhe técnico; é confiança institucional.

Imagem indisponível