Dois vídeos feitos com IA colocaram mulheres reais no centro de mentiras — e a própria estrutura de supervisão da Meta concluiu que as proteções da empresa eram “insuficientes”. A plataforma agora terá de remover o conteúdo. 🤖🧵

Imagem indisponível

A história começa com uma vereadora trabalhista na Escócia. O vídeo a fazia parecer autora de comentários inflamados sobre refugiados. Não havia registro público das falas — e até a sincronia dos lábios denunciava a manipulação.

No outro caso, o alvo era uma ativista muçulmana e educadora em saúde. A deepfake tentava descredibilizar seu trabalho: mostrava hábitos alimentares e exercícios absurdos, em contraste com as orientações que ela realmente defende.

Imagem indisponível

Não eram apenas montagens ruins. Eram ataques desenhados para corroer reputação, confiança e participação pública. Segundo o Conselho de Supervisão, mulheres que falam sobre temas sociais são atingidas de forma desproporcional por esse tipo de perseguição.

O Conselho disse que as regras da Meta eram “sistemática e fundamentalmente insuficientes” diante do fluxo de conteúdo sintético. Os vídeos violavam políticas de assédio, discurso de ódio e desinformação — mas ainda conseguiram circular.

Imagem indisponível

A Meta afirmou que cumprirá a decisão em até sete dias. Ela é obrigada a acatar veredictos sobre casos individuais, mas não necessariamente as recomendações amplas: rotulagem mais rigorosa, punição a reincidentes e remoção de deepfakes usados para perseguir pessoas.

A lição é maior que dois vídeos: ferramentas de IA ficaram acessíveis em escala, mas a proteção de quem vira alvo não acompanhou o ritmo. Detectar, rotular e remover cedo deixou de ser detalhe de moderação — é parte da segurança digital.

Imagem indisponível