São Francisco baniu o uso de reconhecimento facial por agências públicas em 2019 🧵 — uma decisão simbólica vinda do coração do Vale do Silício que deixou o mundo da tech desconfortável. O que motivou essa reversão e o que ela diz sobre poder e tecnologia?

Imagem indisponível

A lei Stop Secret Surveillance Ordinance, aprovada por ampla maioria, exige aprovação da prefeitura, procuradoria e do Comitê de Tecnologia da Informação para qualquer tecnologia de vigilância. Ela também veta softwares capazes de identificar pessoas em tempo real — um freio direto ao uso público.

Por que banir? O argumento central: risco de erro e viés racial. Estudos mostram que sistemas de reconhecimento tendem a errar mais com pessoas negras, mulheres e grupos marginalizados — o que transforma uma ferramenta “eficiente” em instrumento de injustiça.

Imagem indisponível

Ao mesmo tempo, cidades como Londres, metrópoles chinesas e São Paulo ampliam o uso dessas ferramentas em nome da segurança. A questão crítica: ganhos ostensivos de segurança compensam os custos sociais e institucionais de vigilância em massa?

Há também limites técnicos e ambientais: modelos que sustentam reconhecimento exigem dados massivos e infraestrutura contínua — com impacto energético e pegada de carbono — além de dependerem de bases de treino que replicam desigualdades existentes.

Imagem indisponível

Do ponto de vista de governança, a proibição municipal expõe outra tensão: quem controla a tecnologia? Grandes fornecedores concentram poder e dados. Sem regras claras, o mercado privado e acordos entre empresas e governos podem driblar o debate público.

Reflexão final: banir a tecnologia em órgãos públicos não é anti-inovação — é escolha de prioridades. Se a inovação não vier acompanhada de transparência, justiça e participação, ela tende a aprofundar desigualdades. Quais limites queremos impor à vigilância automatizada?

Imagem indisponível