Caso Collien Fernandes: atriz acusa o ex-marido de criar vídeos pornográficos falsos com IA — e milhares foram às ruas na Alemanha em protesto 🧵. Ela diz ainda receber ameaças de morte. Nesta thread explico o que são esses deepfakes, por que a lei falha e o que pode ser feito.

O que é um deepfake? De forma simples: algoritmos de IA “aprendem” rostos e vozes a partir de muitos dados e geram um vídeo que parece real. Técnicas incluem face‑swapping e modelos generativos (GANs, diffusion models). Hoje, ferramentas ficam mais acessíveis; por isso o problema cresce.

Por que a lei falha? Muitas legislações não acompanham o ritmo da IA: falta tipificação clara de crimes com deepfakes, provas difíceis de coletar e debate sobre responsabilidade (autor vs plataforma). Na Alemanha, a mobilização mostra a urgência de atualizar leis e proteger vítimas.

Como detectar e combater tecnicamente? Ferramentas forenses usam sinais de inconsistência (luzes, piscadas, áudio) e redes treinadas. Soluções complementares: marcação de origem (C2PA), assinaturas digitais e watermarking de conteúdo legítimo. Limitação: é uma corrida armamentista entre criação e detecção.

O papel das plataformas e da sociedade: empresas precisam políticas claras, triagem rápida e apoio às vítimas; transparência sobre decisões de moderação; e suporte psicológico/legal. Importante também proteger quem modera esses conteúdos — são trabalhadores que lidam com trauma diariamente.

Reflexão final: tecnologia poderosa sem proteção social vira arma. Precisamos de leis atualizadas, ferramentas de detecção públicas e acessíveis, e políticas que priorizem a segurança das pessoas — especialmente mulheres que são alvo desproporcional. A mobilização na Alemanha mostra que isso não é só técnico, é social.