Um algoritmo classificou Eric Loomis como “alto risco de reincidência”. O resultado entrou no relatório que ajudou a embasar uma pena de 11 anos nos EUA. Mas havia um detalhe decisivo: ninguém conseguia auditar plenamente como ele chegou lá. 🤖⚖️🧵

Imagem indisponível

A história começa em La Crosse, Wisconsin. Loomis admitiu ter dirigido um veículo roubado e fugido da polícia, após um caso envolvendo tiroteio. Num acordo, declarou-se culpado por crimes menos graves e evitou julgamento por cinco acusações.

Na fase da sentença, surgiu o Compas: sistema que usa dados do histórico de uma pessoa para estimar risco de reincidência. O relatório marcou Loomis como alto risco. O juiz afirmou que o algoritmo não foi o único fator, mas ele estava na mesa.

Imagem indisponível

Loomis recorreu: como contestar uma avaliação que influencia a pena se os pesos, critérios e cálculos do sistema não são plenamente acessíveis? A questão não era só “a IA errou?”, mas “é possível verificar se ela funciona?”.

Aqui entra uma distinção essencial. Um relógio 10 minutos adiantado é consistente: sempre mostra o mesmo desvio. Mas não é válido, porque mede a hora errada. Em IA, repetir um resultado não prova que ele seja correto ou justo.

Imagem indisponível

A Suprema Corte de Wisconsin manteve a sentença, citando advertências sobre as limitações do Compas e o fato de ele servir como apoio. O caso, porém, deixou uma lição técnica: aviso de limitação não substitui transparência, testes independentes e possibilidade real de contestação.

Quando uma previsão algorítmica afeta liberdade, ela precisa enfrentar perguntas básicas: mede o que promete medir? Repete resultados de forma estável? Funciona igualmente entre grupos? Tecnologia no Judiciário só ganha confiança pública quando pode ser examinada — e questionada.

Imagem indisponível