STJ discute IA no processo penal: Habeas Corpus nº 1.059.475/SP (rel. Min. Reynaldo Soares da Fonseca) coloca em xeque o uso probatório de sistemas de inteligência artificial. Urge um marco normativo. 🧠⚖️ 🧵

Imagem indisponível

O caso evidencia um problema dogmático: quando algoritmos produzem indícios, como garantir transparência, verificabilidade e a possibilidade de contraprova pela defesa? São questões centrais para a validade probatória.

Riscos técnicos: vieses nos dados, falta de explicabilidade, drift de modelos e taxas de erro heterogêneas. Tecnologias como reconhecimento facial e modelos preditivos podem produzir resultados discrepantes para grupos subrepresentados.

Imagem indisponível

Gap regulatório: o Brasil ainda não tem normas específicas para sistemas de alto risco no âmbito criminal. A Lei de IA da União Europeia oferece pistas — classificação por risco, requisitos de transparência e processos de certificação.

Medidas práticas urgentes: requisitos mínimos de documentação técnica, registros de decisões automatizadas, auditorias independentes e acesso efetivo da defesa aos elementos técnicos. Democratizar acesso à prova é proteger igualdade processual.

Imagem indisponível

Mercado e concentração: soluções proprietárias e 'caixas‑pretas' concentram poder e dificultam fiscalização. Contratações públicas devem exigir interoperabilidade, auditoria e cláusulas que previnam dependência tecnológica.

Reflexão final: IA pode aumentar eficiência investigativa, mas sem marco normativo robusto coloca em risco direitos fundamentais e a confiança no sistema de justiça. Tecnologias, transparência e garantias processuais precisam caminhar juntas.

Imagem indisponível