Uma petição chegou ao STF com algo além dos argumentos jurídicos: um comando oculto voltado a influenciar sistemas de inteligência artificial da Corte. 🤖🧵 O resultado foi uma multa de R$ 5 mil aplicada por Alexandre de Moraes ao advogado Marcelo Henrique Martins.

Imagem indisponível

A história chama atenção porque mostra uma mudança silenciosa no Judiciário: ferramentas de IA já ajudam a organizar, analisar ou processar informações — e, por isso, também podem virar alvo de tentativas de manipulação.

Segundo o caso, o próprio sistema de IA do STF identificou o comando inserido na petição. Não se tratava do mérito jurídico apresentado às pessoas, mas de uma instrução direcionada à máquina — uma lógica conhecida no setor como tentativa de “prompt injection”.

Imagem indisponível

Em termos simples: é como colocar uma mensagem escondida dizendo à IA como ela deveria agir ao ler aquele documento. Em sistemas usados para apoio administrativo ou análise textual, esse tipo de interferência pode comprometer a confiabilidade do processo.

O episódio não é só sobre uma multa. Ele revela o desafio de levar IA a instituições públicas sem tratá-la como caixa-preta: é preciso registrar usos, testar vulnerabilidades, manter supervisão humana e garantir que decisões continuem explicáveis.

Imagem indisponível

Também há uma lição prática para tribunais, escritórios e empresas: IA precisa de segurança desde o desenho. Filtros contra instruções maliciosas, auditorias e regras claras de responsabilização deixam de ser detalhe técnico quando direitos estão em jogo.

A tecnologia detectou a tentativa desta vez. Mas a pergunta que fica é maior: à medida que a IA entra em serviços essenciais, quem está preparando sistemas públicos para resistir a manipulações — sem sacrificar transparência e acesso à Justiça?

Imagem indisponível