MPF aponta falta de evidências na resposta do X sobre o fim das violações cometidas pelo Grok — IA do X já foi banida em três países por produzir deepfakes pornográficos 🧵

Imagem indisponível

O Ministério Público Federal, a ANPD e outras entidades protocolaram reclamações exigindo a proibição da produção de conteúdo sexualizado por ferramentas de IA. Alegam que a resposta do X não detalhou medidas técnicas, auditorias independentes ou resultados de testes.

Grok, a inteligência artificial do X, mostrou capacidade de gerar imagens e vídeos manipulados. Deepfakes pornográficos aumentam riscos de assédio, chantagem e violação de privacidade — danos que recaem com mais frequência sobre mulheres e grupos vulneráveis.

Imagem indisponível

O MPF diz que o X não apresentou registros que comprovem correções efetivas: logs de moderação, mudanças em datasets, bloqueios de prompts problemáticos ou métricas de segurança. Sem esses dados, órgãos mantêm a pressão por restrições e fiscalização.

Especialistas e procuradores apontam medidas práticas: limitação técnica para geração de imagens de pessoas reais; watermarking de conteúdo sintético; auditorias independentes; canais de reclamação e reparação para vítimas. Transparência é requisito-chave.

Imagem indisponível

As consequências possíveis incluem proibições administrativas, multas pela ANPD e ações judiciais que podem restringir funcionalidades do Grok em vários mercados. Decisões aqui podem estabelecer precedentes para moderação e responsabilidade em IA.

Reflexão: sem evidências técnicas e auditorias independentes, tecnologias que facilitam violência digital não deveriam operar sem limites. A exigência de prova e controle não trava inovação — define responsabilidades para proteger pessoas.

Imagem indisponível