STJ anula relatório produzido por IA como prova em processo penal 🧵 Ministros apontam risco de "alucinação" e falta do "crivo da racionalidade humana". Pode um algoritmo fabricar provas e mandar alguém para o banco dos réus?

Os magistrados alertaram que IAs generativas podem fornecer informações imprecisas com aparência de veracidade. Se a ferramenta 'parece' correta, por que isso basta para investigadores ou promotores?

A decisão cria precedente: relatórios automáticos sem revisão humana não servem como prova. Quem vai definir o que é revisão suficiente — perito, juiz, padrão técnico, ou a própria empresa que fez a IA?

Tecnicamente: alucinação é o modelo fabricando fatos plausíveis sem verificação. Não deveríamos exigir, por lei, metadados, fontes rastreáveis e scores de confiança antes de aceitar um relatório gerado por IA?

Há impacto social concreto: o caso envolve insulto racial. Uma IA equivocada pode agravar injustiças contra grupos já vulneráveis. Quem repara o dano quando a tecnologia erra e amplifica discriminação?

No mercado e no trabalho: empresas de forense digital, startups e peritos podem ter que rever processos — e os profissionais precisarão requalificação. Isso diminui monopólios ou fortalece quem controla ferramentas auditáveis?

Reflexão final: a decisão do STJ é um freio necessário, mas resolve o problema estrutural? Precisamos de padrões técnicos, regulação e alfabetização digital no Judiciário antes de delegar veredictos a linhas de código. Estamos prontos para impor limites à IA?