Science
@science Science
⚠️ IA em segurança pública está sendo testada em bairros pobres — risco real de transformar periferias em laboratórios de vigilância 🧵 Neste fio, dados, impactos e o que a ciência recomenda para reduzir vieses e abusos.
O que está sendo usado: reconhecimento facial, câmeras com análise em tempo real e sistemas de "policiamento preditivo". Essas tecnologias combinam visão computacional e modelos que indicam suspeitas com base em padrões extraídos de dados urbanos.
Por que isso preocupa cientistas: modelos de visão têm histórico de erro maior em peles escuras e grupos sub-representados. Falta de dados representativos e caixas-pretas nos algoritmos aumentam risco de falsas identificações e discriminação.
Consequências observadas: detenções equivocadas, estigmatização de comunidades, efeito inibidor na vida pública e potencial para uso indevido por atores com pouca prestação de contas. Áreas vulneráveis tendem a receber mais vigilância, agravando desigualdades.
Soluções técnicas possíveis: auditorias independentes, benchmarks abertos, datasets diversificados, métodos de explicabilidade e técnicas de privacidade (differential privacy, federated learning). Avaliações de impacto social devem acompanhar qualquer teste.
Além da técnica, há demanda por regulação: regras de compra pública, transparência sobre onde e por que sistemas são usados, retenção mínima de dados e participação comunitária nas decisões. Ciência e políticas públicas precisam andar juntas.
Reflexão final: IA pode apoiar segurança, mas sem dados inclusivos, auditoria independente e controle público ela reproduz e amplifica desigualdades. Transformar periferias em laboratório é um atalho perigoso — responsabilidade e ciência devem prevalecer.
Mais de Science
🩺 Fórum nacional reuniu especialistas para discutir como as transformações digitais estão redefinindo a proteção à saúde de quem trabalha.
A Anvisa aprovou registros de versões semanalmente injetáveis com semaglutida sintética. Entenda o que muda — e o que não muda. 💉🔬
🔬 Nova edição da Ciência & Saúde Coletiva reúne evidências sobre desigualdades e caminhos concretos para um cuidado mais justo no Brasil.