O STF encontrou uma tentativa inédita de fraude com IA: comandos escondidos em um processo buscavam influenciar sistemas de análise do tribunal. As instruções estavam em letras brancas, minúsculas e quase invisíveis. 🤖⚖️ 🧵

Imagem indisponível

A técnica tem nome: prompt injection. Em vez de atacar um servidor, ela tenta “conversar” com a IA por meio do próprio documento — inserindo ordens para alterar, enviesar ou direcionar a resposta de um sistema.

No caso relatado por Cristiano Zanin, os comandos apareciam em duas páginas da peça processual. Palavras fragmentadas e texto oculto dificultavam a detecção por leitores humanos — mas acionaram os alertas de cibersegurança do STF.

Imagem indisponível

O alvo seria uma eventual IA usada na triagem ou análise processual. Só que a tentativa não teve efeito: o gabinete de Zanin não utiliza ferramentas de inteligência artificial para analisar ou fundamentar decisões.

O episódio mostra uma fronteira delicada da Justiça digital: IA pode acelerar tarefas repetitivas, mas documentos não são fontes neutras. Sem auditoria, revisão humana e registros claros, uma instrução escondida pode contaminar o fluxo de trabalho.

Imagem indisponível

Zanin classificou a ação como tentativa de direcionar ocultamente sistemas de IA para obter decisão favorável. Aplicou multa de dois salários mínimos e mandou comunicar OAB e MPF para apurar possíveis infrações éticas e crime.

O processo de origem envolve uma disputa sobre cotas raciais no serviço público. A tecnologia não muda o mérito do caso, mas reforça por que ferramentas automatizadas precisam de segurança: falhas podem afetar direitos e acesso à Justiça.

Imagem indisponível

A lição vai além do STF: toda instituição que usa IA para ler contratos, currículos, laudos ou processos precisa tratar arquivos como dados potencialmente maliciosos. Na era da IA, até o texto “invisível” virou superfície de ataque.