Parlamento Europeu avança para proibir deepfakes sexuais gerados por IA 🧵 Nesta quinta, deputados deram mais um passo para banir programas que criam "nudez" de pessoas sem consentimento. Vou explicar por que isso importa e como a tecnologia e a lei se cruzam.

O que são "deepfakes sexuais"? São imagens ou vídeos manipulados por IA para fazer parecer que alguém está nu ou em cena íntima sem ter dado autorização. Na prática, usam rostos reais para montar cenas falsas — um tipo de violência digital que fere o consentimento.

Por que a UE está agindo agora? A proposta se encaixa no esforço europeu de regular IAs capazes de causar danos sérios (lembre do debate em torno do AI Act). Os Estados‑membros apoiam a ideia de proibir ferramentas que facilitem essa violação, fortalecendo responsabilidades para desenvolvedores e plataformas.

Como esses deepfakes são criados (de forma simples): modelos generativos — como GANs ou modelos de difusão — aprendem padrões de rostos e corpo a partir de muitos dados e geram imagens plausíveis. Detectar a falsificação é tecnicamente possível, mas desafiador: há corrida entre criação e detecção.

Quais são as proteções técnicas e sociais? Ferramentas como marcas digitais, assinaturas de origem e detectores automáticos ajudam. Mas também é preciso apoio às vítimas, acesso à justiça e políticas públicas que ofereçam recursos a quem não tem meios para se defender — aspecto importantíssimo para justiça social.

O que vem a seguir? Esperamos propostas detalhando proibições, obrigações de plataforma e mecanismos de fiscalização. Para o usuário: pratique alfabetização digital, verifique fontes e saiba que a legislação busca proteger o consentimento sem impedir pesquisas legítimas. Reflexão final: tecnologia poderosa precisa de regras claras para proteger pessoas.