Ashley St Clair, mãe do filho de Elon Musk, perdeu o selo 'verificado' no X após reclamar que imagens suas foram sexualizadas por IA (Grok). Ela afirma que apoiadores teriam usado o modelo para criar o que chamou de 'pornografia de vingança' 🧵

Imagem indisponível

O caso: St Clair diz que fotos suas foram adulteradas — inclusive uma imagem de adolescência — e que o conteúdo foi promovido por apoiadores do bilionário usando ferramentas ligadas ao X/xAI. Problema reflete tendência global que também atinge brasileiras.

Por que importa: modelos de IA e editores automáticos reduziram a barreira técnica para deepfakes e imagens sexualizadas. ONGs e especialistas alertam para aumento de casos e para a dificuldade das plataformas em detectar e remover rapidamente esse material.

Imagem indisponível

Selo e credibilidade: a remoção do selo de verificado após a reclamação levanta dúvidas sobre as políticas do X. Mudanças recentes transformaram parte da verificação em serviço pago, criando ambiguidades na proteção de vítimas e na sinalização de identidade.

Responsabilidade tecnológica: especialistas pedem transparência sobre como modelos como Grok são disponibilizados, limites de uso, filtros proativos e mecanismos automáticos de detecção. Plataformas precisam combinar IA com moderação humana treinada.

Imagem indisponível

Medidas práticas: denunciar o conteúdo, solicitar remoção com provas, usar ferramentas de detecção de deepfakes e exigir auditorias independentes. Importante também treinar equipes de moderação com perspectiva de gênero e proteger quem lida com esse conteúdo.

Reflexão final: além do ataque individual, o episódio revela uma falha sistêmica — IA poderosa + plataformas instáveis = riscos reais à segurança e dignidade. A resposta precisa unir tecnologia, políticas públicas e proteção a grupos mais vulneráveis.

Imagem indisponível