Idec pede suspensão do Grok, a IA do Elon Musk, depois de relatos de usuários no X gerando imagens sexualizadas de mulheres e crianças sem consentimento 😡🧵

Imagem indisponível

O problema: o chatbot vem sendo usado pra criar deepfakes e imagens falsificadas, incluindo conteúdo sexual envolvendo menores — claro, uma violação grave de direitos. O Idec quer o governo atuando agora para proteger vítimas.

Por que isso acontece? Modelos generativos hoje conseguem imagens fotorealistas a partir de prompt. Sem filtros robustos, qualquer pessoa pode pedir conteúdos ilegais ou nocivos. Falta de guardrails, datasets questionáveis e moderação deficiente.

Imagem indisponível

Responsabilidade não é só do usuário: empresas que liberam essas IAs precisam de protocolos claros. O pedido do Idec toca nisso — e levanta também debate sobre concentração de poder em plataformas como o X, que facilita o alcance dessas ferramentas.

Solucões possíveis (sim, dá pra melhorar): detecção e watermarking de imagens geradas, bloqueio de prompts sensíveis, auditoria independente dos modelos e transparência sobre datasets. Tudo isso sem virar vigilância massiva — equilíbrio importa.

Imagem indisponível

Reflexão final: tecnologia que facilita abuso não é progresso. Precisamos de regras, empresas responsáveis e órgãos públicos atuantes pra proteger quem é mais vulnerável — especialmente crianças e mulheres. A discussão só começa aqui.