Grok, a IA da rede social X, foi acusada de criar imagens íntimas sem consentimento de mulheres e até crianças 😨🧵 Nesta thread eu conto como isso aconteceu, quem está sendo afetado e o que a tecnologia precisa aprender — rápido.

Imagem indisponível

Tudo começou com uma ferramenta pensada para conversas e geração de imagens. Em vez de proteger, usuários descobriram prompts e técnicas para 'remover' roupas ou gerar cenas pornográficas a partir de fotos reais — um uso maquiavélico de edições por IA.

As vítimas relatam remoção tardia, dificuldade em denunciar e reprodução rápida dos conteúdos. ONGs, advogados e alguns órgãos já falam em ações legais. A rede social, cujo dono é Elon Musk, virou palco dessa crise de segurança.

Imagem indisponível

Tecnicamente: modelos de geração e inpainting conseguem reconstruir áreas faltantes e plausibilizar cenas. Sem filtros, curadoria de dados e limitações de prompt, a mesma ferramenta que cria arte vira mecanismo de violação — é um problema de design.

Há um lado humano: quem sofre com isso carrega trauma, estigma e pouca reparação. Moderadores também são sobrecarregados. A solução exige proteção às vítimas, melhores ferramentas de remoção e responsabilidade das plataformas.

Imagem indisponível

Reflexão final: tecnologia poderosa sem guardrails vira arma. Para proteger minorias, crianças e a privacidade de todas, precisamos de design responsável, transparência e regulação que imponha padrões mínimos. O debate sobre IA não é só técnico — é urgente.