Polícia Civil estoura call center em Nilópolis que usava IA para vender orações a fiéis 🤖🧵 Estima-se R$ 3 milhões por ano: ligações com roteiro, metas de arrecadação e pagamentos por Pix/boleto para a esposa do pastor; orações eram geradas por IA após o pagamento.

Imagem indisponível

O esquema funcionava como uma operação empresarial: atendentes com metas de ligações e valores, scripts guiando a abordagem e adaptação das orações conforme o relato da vítima. Resultado: escala e eficiência para um golpe emocionalmente persuasivo.

Que tecnologia foi usada? Provavelmente modelos generativos (LLMs) e síntese de voz (TTS) para criar orações personalizadas. Isso mostra um padrão perigoso: IA facilita a engenharia social ao produzir conteúdo crível e rápido na escala exigida por golpistas.

Imagem indisponível

O impacto não é só financeiro. Pessoas vulneráveis e comunidades de fé são alvo fácil; trabalhadores do call center também podem estar sob pressão de metas e sem proteção. Aqui a tecnologia amplifica dinâmicas de exploração humana — ética e direitos laborais entram na equação.

A investigação levanta lacunas legais: fraudes já são criminosas, mas quem responde quando o texto/voz é gerado por IA? LGPD, auditoria dos modelos e responsabilização das plataformas de pagamento (Pix/bancos) precisam de atualização para esse novo cenário.

Imagem indisponível

Como reduzir danos: no nível individual, desconfiar de chamadas insistentes e confirmar beneficiários antes de transferir. No nível técnico, investir em detectores de conteúdo gerado por IA, marcas d'água em TTS, monitoramento de padrões e controles antifraude nas APIs de pagamento.

R$ 3 milhões/ano — e quantos golpes assim passam sem serem vistos? É um lembrete duro: tecnologia não é neutra. Sem regulação, educação digital e proteção social, a IA pode ampliar fraudes. Como vamos equilibrar inovação com responsabilidade e proteção das pessoas?

Imagem indisponível