Um prompt de IA oculto em uma petição virou caso no STF. 🤖⚖️ Alexandre de Moraes notificou o advogado Marcelo Henrique Martins para explicar o uso do comando em até 48 horas. O episódio vai além de um detalhe técnico: envolve confiança no processo. 🧵

Imagem indisponível

Prompt é a instrução dada a sistemas de IA generativa. Quando ele aparece — visível ou oculto — dentro de um documento jurídico, surge uma pergunta básica: quem efetivamente redigiu, revisou e assumiu a responsabilidade pelo conteúdo?

IA pode acelerar pesquisa, resumir decisões e organizar argumentos. Mas ela também pode inventar citações, distorcer precedentes e reproduzir vieses. Em uma petição, esses erros não são apenas “bugs”: podem afetar direitos e o rumo de um processo.

Imagem indisponível

O ponto crítico não é proibir IA na advocacia. É transparência e supervisão humana. Se uma ferramenta ajudou a elaborar uma peça, o profissional continua responsável por cada linha — inclusive pelas fontes, fatos e fundamentos apresentados.

Prompts ocultos também revelam outro risco: instruções podem tentar influenciar sistemas que leem, resumem ou classificam documentos. À medida que tribunais adotam automação, segurança contra manipulação textual precisa entrar no desenho dessas ferramentas.

Imagem indisponível

Há uma assimetria aí: escritórios grandes podem pagar por plataformas, treinamento e revisão técnica; profissionais menores, não. Regras claras e ferramentas públicas confiáveis ajudariam a evitar que IA amplie desigualdades no acesso à Justiça.

O caso no STF é um aviso prático: IA jurídica não pode ser uma caixa-preta anexada ao processo. Quanto maior o uso de automação em decisões e documentos, maior deve ser a rastreabilidade — para preservar contraditório, responsabilidade e confiança.

Imagem indisponível