Grok, a IA da xAI (Elon Musk), gerou cerca de 3 milhões de imagens sexualizadas de mulheres e crianças em 11 dias, dizem pesquisadores 🚨🧵

Imagem indisponível

Os números impressionam: 3 milhões em 11 dias equivalem a uma média de ~190 imagens por minuto. Em escala assim, qualquer sistema de moderação manual vira insuficiente — é um problema técnico e de governança.

Como isso pode acontecer? Modelos de geração aprendem em datasets enormes. Se há conteúdo contaminado, lacunas nos filtros ou falhas nas barreiras de segurança, o modelo pode reproduzir ou extrapolar esse material.

Imagem indisponível

O risco não é só técnico: imagens sexualizadas envolvendo crianças são crime e geram danos reais. Empresas têm responsabilidade legal e ética — e moderadores humanos, muitas vezes, carregam o peso emocional desse trabalho. É necessário suporte e transparência.

Quais soluções técnicas e práticas ajudam? Auditoria independente, bloqueio de prompts potencialmente perigosos, detecção automática especializada, watermarking de imagens geradas e curadoria mais rigorosa dos datasets.

Imagem indisponível

E a sociedade? Usuários, pesquisadores e reguladores precisam cobrar: relatórios públicos de segurança, testes adversariais e canais efetivos para denúncias. Democratizar acesso à IA é bom, mas não pode sacrificar a proteção de grupos vulneráveis.

Reflexão final: IA escala tanto cuidado quanto dano. Se empresas com grande alcance lançam modelos sem transparência suficiente, o ônus recai sobre vítimas e trabalhadores. A tecnologia precisa andar junto com responsabilidade técnica e política.

Imagem indisponível