Meta lançou um detector de imagens geradas por IA — e ele falhou com as próprias criações após um recorte simples 🔎🧵 Segundo a Reuters, 55% das imagens geradas pela Meta passaram despercebidas depois de um crop. Em ano eleitoral nos EUA, isso preocupa.

Imagem indisponível

A Reuters testou 40 imagens geradas pela própria Meta: um recorte simples (crop) foi suficiente para que mais da metade escapasse da detecção. É um problema de falsos negativos — imagens sintéticas marcadas como reais.

Como isso acontece? Detectores muitas vezes aprendem padrões globais — ruídos, artefatos, metadados. Cortar a imagem remove contexto e sinais que o modelo usa, expondo falta de robustez a pequenas transformações.

Imagem indisponível

O problema vai além do técnico. Em um ano eleitoral, deepfakes que driblam detectores podem viralizar e distorcer debates. Não é só sobre algoritmos: é sobre confiança pública e necessidade de auditoria independente.

Responsabilidade da Meta? Quando gigantes desenvolvem essas ferramentas, precisam abrir testes, publicar benchmarks e colaborar com padrões de autenticidade (por exemplo C2PA). Concentração de poder pede mais transparência.

Imagem indisponível

O que fazer já: jornalistas e verificadores devem cruzar múltiplas ferramentas, checar metadados e versões originais, e manter revisão humana. Investir em datasets diversos aumenta a resistência a vieses e falhas.

A lição é clara: afirmar que algo detecta IA não basta. É preciso testar sob condições reais — cortes, compressões, edições sutis — e combinar tecnologia com políticas públicas e auditoria independente para proteger o discurso público.

Imagem indisponível