X anuncia medidas para impedir que sua IA, Grok, gere imagens sexualizadas não consensuais, após acusações de facilitar montagens íntimas de mulheres e crianças 🧵⚠️

Imagem indisponível

Uma coalizão de grupos de defesa dos direitos das mulheres e órgãos de fiscalização pediu que Apple e Google removam X e Grok de suas lojas. As organizações alegam que a ferramenta facilita deepfakes íntimos e exposição de vítimas.

Em resposta, X afirmou que vai atualizar filtros, restringir prompts sensíveis e reforçar moderação humana — segundo a empresa. Não há, por enquanto, cronograma público nem métricas independentes de eficácia.

Imagem indisponível

App stores têm papel-chave no caso: remoção é medida extrema, mas pressão pública aumenta. Especialistas sugerem auditorias independentes, políticas de transparência e mecanismos de reparação para vítimas como alternativas responsáveis.

Do ponto de vista técnico: modelos de geração podem ser usados para transferência facial e criação de cenas realistas a partir de prompts. Soluções propostas incluem watermarking, metadados de proveniência, detecção automatizada e bases de treino com consentimento.

Imagem indisponível

Esta polêmica expõe o dilema entre inovação e responsabilidade: proteger pessoas (especialmente grupos vulneráveis) exige regras claras, fiscalização e transparência das plataformas. A eficácia das medidas anunciadas pela X será observada de perto.