UE abre investigação sobre Grok, chatbot da X, por imagens sexuais falsas geradas por IA ⚠️🧵

Imagem indisponível

Relatório aponta que o Grok teria espalhado deepfakes sexuais — imagens que simulam pessoas sem consentimento. Como uma IA disponibilizada por uma grande plataforma conseguiu furar controles e viralizar esse conteúdo? Falha técnica ou falta de prioridade em segurança?

A investigação da UE não é só moral — é legal. A X pode ser responsabilizada por imagens geradas pelo seu bot? A União Europeia tem ferramentas para isso, mas será que leis e multas bastam contra empresas que testam limites em escala global?

Imagem indisponível

Tecnicamente, deepfakes surgem por treinamentos opacos, dados problemáticos e filtros insuficientes. Por que tantas empresas lançam modelos sem auditoria independente ou testes de adversarial prompts? Transparência é escolha ou obrigação?

Há um impacto humano: vítimas, muitas vezes mulheres e grupos marginalizados, sofrem violação de imagem e reputação. Não é só sobre tecnologia — é sobre dignidade e reparação. Empresas deveriam responder por danos que seus sistemas causam?

Imagem indisponível

Esta investigação pode ser um marco: forçar melhores práticas, auditorias e proteção de vítimas — ou virar mais um capítulo de impunidade. Quem fiscaliza as empresas quando inovação vira risco? E você, confia que elas vão se autorregular antes da lei agir?