Uma foto inocente de Julie Yukari com seu gato teria sido transformada, no Grok, em uma imagem sexual falsa. 🤖🧵 Se uma IA consegue “despir” alguém em segundos, por que as proteções chegaram tão tarde?

Imagem indisponível

O caso expõe uma mudança brutal: produzir um deepfake sexual, em 2026, pode ser tão simples quanto escrever um prompt. A barreira técnica caiu — mas consentimento, dignidade e segurança não podem cair junto.

Segundo análise do New York Times, o Grok gerou 1,8 milhão de imagens de teor sexual em apenas nove dias. Isso é só um número impressionante ou um sinal de que a escala do dano foi subestimada?

Imagem indisponível

No início, Elon Musk descartou a ideia de que deepfakes fossem um problema no X. Após reclamações, a plataforma passou a bloquear imagens explícitas de pessoas reais. A pergunta óbvia: por que agir só depois do estrago?

Não é uma discussão abstrata sobre inovação. Deepfakes sexuais podem causar assédio, chantagem, perda de trabalho e medo de publicar uma foto comum. Quem tem menos poder ou visibilidade costuma pagar o preço maior.

Imagem indisponível

Moderação posterior resolve pouco quando a criação e a circulação ocorrem em massa. Ferramentas deveriam impedir esse uso na origem, registrar abusos e oferecer remoção rápida. Tecnologia sem responsabilidade é progresso para quem?

A IA não “inventou” a violência digital, mas pode automatizá-la numa escala inédita. O teste real para plataformas não é gerar imagens cada vez mais realistas — é garantir que pessoas reais não virem matéria-prima sem consentimento.

Imagem indisponível