Indaiatuba: imagens de nudez falsas, criadas com IA, de ao menos 14 adolescentes apareceram em sites pornográficos 🤖🧵. As fotos foram retiradas após denúncia e a DDM abriu investigação. Esta thread conta como a tecnologia foi usada e o que isso revela sobre nossos sistemas.

O caso começou em 11 de setembro, quando a mãe de uma aluna encontrou um site com fotos que misturavam rostos de meninas (13–18 anos) em corpos nus. Três adolescentes de 14 anos foram apontadas como possíveis responsáveis pela divulgação. A DDM investiga.

Tecnicamente: trata-se de deepfakes — modelos que fazem 'face swap' e geram imagens realistas a partir de fotos. Ferramentas de IA hoje tornam esse processo muito acessível, o que reduz barreiras para quem quer criar conteúdo criminoso.

O impacto não é só digital: vítimas sofrem humilhação, estigma e violação de privacidade. As imagens foram tiradas do ar após denúncia em grupo de pais, mas o dano já aconteceu. Remoção é necessária, porém insuficiente sem apoio às vítimas.

No plano legal e investigativo a situação é complexa: há menores implicados como supostos divulgadores, e menores vítimas. Isso pede investigação técnica (origem dos arquivos, responsáveis) e respostas que protejam as vítimas sem ignorar a complexidade social.

Responsabilidade das plataformas importa: detecção automática, canais de denúncia acessíveis e processos mais ágeis podem reduzir danos. Também precisamos de educação digital nas escolas para jovens entenderem riscos e consequências do uso de IA.

Reflexão final: a IA pode amplificar violências que já existiam. Não se trata só de tecnologia, mas de como a sociedade protege crianças, regula plataformas e oferece suporte às vítimas. Tecnologias poderosas exigem políticas, educação e empatia.