São Paulo tem um 'Big Brother' com IA que prende criminosos (e alguns inocentes) 📷🤖🧵 Smart Sampa, a central de monitoramento com seu 'prisômetro', já virou símbolo: mais controle = mais segurança ou mais erro automático? Quem decide quando a algorítmica vira prisão?

Imagem indisponível

Como o sistema funciona? Redes de câmeras + operadores + modelos de reconhecimento facial que disparam alertas. Mas quem fiscaliza os dados usados pra treinar essa IA? E se o modelo tiver viés, quem paga pelo erro: o algoritmo, o governo ou a pessoa acusada?

Já há relatos de detenções equivocadas refletidas no 'prisômetro'. Erro humano ou erro do algoritmo? Como reparar vidas marcadas por uma correspondência facial falha? Transparência e responsabilização parecem faltar — quem garante direito à defesa num alerta automatizado?

Imagem indisponível

Existem alternativas técnicas e legais: auditorias independentes, logs públicos, limites ao uso de reconhecimento facial e tecnologias de preservação de privacidade. Por que não envolver a sociedade civil, comunidades afetadas e especialistas antes de expandir ainda mais?

E o papel das empresas e contratos privados? Sistemas desse porte geram lucros, concentram poder e aumentam dependência tecnológica do Estado. Estamos entregando segurança pública a caixas-pretas que ninguém consegue auditar? Quem lucra e quem perde com isso?

Imagem indisponível

Reflexão final: queremos cidades mais seguras ou cidades onde um erro algorítmico decide liberdade? Estudos independentes já mostram viés em reconhecimento facial contra grupos marginalizados. Exigir transparência, auditorias e mecanismos de reparação não é oposição à tecnologia — é responsabilidade.