O novo rosto da discriminação: racismo algorítmico e IA 🤖🧵 Patrícia Campos (OAB-DF/FAJ) lembra: algoritmos não são neutros — eles aprendem com uma sociedade desigual. Vou explicar como isso acontece e por que importa pra todo mundo.

Imagem indisponível

Resumo rápido: sistemas que decidem quem recebe crédito, quem é contratado, ou até quem é suspeito pela polícia, são treinados com dados históricos. Se esses dados refletem preconceito, a máquina só reproduz — e às vezes amplifica — essas injustiças.

Exemplos reais: ferramentas de avaliação de risco criminal, modelos de recrutamento e reconhecimento facial já mostraram pior desempenho para pessoas negras ou mulheres. Não é falha técnica isolada — é resultado dos dados e das escolhas de quem projeta.

Imagem indisponível

Como o viés surge? Por três motivos simples: (1) dados históricos carregados de desigualdade; (2) variáveis proxy que disfarçam discriminação; (3) falta de diversidade nas equipes que criam e testam os sistemas. Junte tudo e tem um ciclo que se reforça.

Consequências práticas: gente perde emprego, acesso a crédito, é parada por erro de vigilância, ou recebe diagnóstico médico tardio. Isso atinge mais forte quem já vive em situação de vulnerabilidade — ou seja, tecnologia pode reproduzir exclusão.

Imagem indisponível

O que dá pra fazer? Auditorias independentes, transparência nos dados, avaliações de impacto socioeconômico, equipes diversas, design participativo com comunidades afetadas e regulação que obrigue responsabilização. Tecnologia mais democrática é possível.

Reflexão final: se a gente não controlar como e por quem a IA é treinada, ela vai reforçar quem já tem poder. A alternativa é usar essas mesmas ferramentas pra reduzir desigualdades — com direito à explicação, fiscalização e participação social.

Imagem indisponível