Juízes alertam: IA gerando citações e jurisprudências falsas em petições — tribunais têm que revisar processos 🤖🧵

Imagem indisponível

O que tá acontecendo: modelos generativos (LLMs) estão criando trechos que parecem reais — nomes de julgados, súmulas, decisões inteiras que não existem. Isso tá obrigando juízes a checar fonte por fonte e refazer análises.

Por que isso ocorre? Esses sistemas não consultam um banco "sagrado" de verdades: eles predizem palavras. O resultado são as chamadas 'hallucinations' — respostas plausíveis, mas inventadas. No mundo jurídico, plausível pode ser perigoso.

Imagem indisponível

As consequências são reais: retrabalho nos tribunais, risco de decisões equivocadas e perda de confiança. E tem outro lado social: quem pode pagar por revisão humana sai na frente — aumenta desigualdade de acesso à justiça.

Algumas respostas já surgem: tribunais exigindo comprovação das citações, advogados tendo que anexar fontes e discussões sobre como marcar peças geradas por IA. Também cresce a pressão por transparência dos provedores de modelos.

Imagem indisponível

Conclusão rápida: IA pode agilizar o direito, mas sem auditoria, rastreabilidade e revisão humana vira risco. Justiça precisa de ferramentas confiáveis — não de atalho. A solução passa por regras, educação e tecnologia responsável.