Anthropic afirma que três empresas chinesas de IA teriam realizado campanhas para extrair capacidades do chatbot Claude — cerca de 16 milhões de interações e 24 mil contas falsas envolvidas 🔍🧵

Imagem indisponível

Segundo a Anthropic, as operações criaram milhares de contas falsas e usaram milhões de consultas para reproduzir comportamentos do Claude. A empresa classifica o episódio como furto de propriedade intelectual e violação de termos de uso.

O método descrito é conhecido como model extraction: ataques por consultas massivas que buscam recriar o modelo alvo. Técnicas citadas incluem engenharia de prompts, automação de contas e scraping sistemático.

Imagem indisponível

Defesas possíveis: limitação de taxa, detecção de anomalias, watermarking de respostas, privacidade diferencial e auditorias técnicas. Implementação exige equilíbrio entre segurança e acesso aberto à pesquisa.

Implicações práticas: vazamento de capacidades afeta competição, aumenta custos operacionais (re-treinamentos) e pode ampliar pegada ambiental. Startups e pesquisadores são especialmente vulneráveis; há necessidade de padrões e transparência.

Imagem indisponível

Dado-chave para acompanhar: 24 mil contas falsas + ~16 milhões de interações. Se confirmado, o caso reforça a urgência de regulação, cooperação internacional e medidas técnicas para proteger modelos e democratizar acesso com responsabilidade.