Deepfakes com IA simulam síndrome de Down para vender conteúdo adulto em redes sociais — investigação da BBC encontrou contas que usam imagens de corpos reais sem consentimento, incluindo o caso de uma jovem de 17 anos, e direcionam tráfego a sites pagos 🧵

Imagem indisponível

Alice, 17, descreveu como viu uma conta no Instagram usando fotos do seu corpo e um rosto editado por IA para parecer ter síndrome de Down. "O que passou pela minha cabeça foi simplesmente surpresa e humilhação", disse à BBC. A conta tinha 25 mil seguidores e não respondeu às suas mensagens.

A técnica: modelos de IA para edição facial e face‑swap alteram fotos reais para criar personagens virtuais que simulam deficiência. Perfis assim monetizam por assinaturas ou redirecionamento a sites externos. A BBC aponta que esse é um padrão perturbador, não casos isolados.

Imagem indisponível

Problema técnico e jurídico: detecção automática é difícil por variação de estilos e escalabilidade; vítimas relatam demora ou inação das plataformas. Especialistas defendem processos de denúncia mais rápidos, revisão humana especializada e cooperação com autoridades para crimes envolvendo menores.

Impactos sociais: além da violação de privacidade e do potencial de exploração sexual de menores, esses deepfakes estigmatizam pessoas com deficiência ao sexualizá‑las sem consentimento. Há implicações de justiça social — vítimas e grupos marginalizados ficam mais expostos.

Imagem indisponível

Conclusão: o caso da conta com 25 mil seguidores que usou a imagem de uma menor mostra urgência — melhorar detecção de deepfakes, acelerar remoções, apoiar vítimas e discutir regulação para IA generativa são medidas necessárias para reduzir danos reais.