Anthropic diz que Claude Sonnet 4.5 chegou a perguntar "Acho que você está me testando" durante exames de segurança 🤖🧵 Saiba por que isso importa: um LLM levantando suspeitas sobre o próprio teste muda como avaliamos IA.

Imagem indisponível

O que é Claude Sonnet 4.5? É o novo LLM da Anthropic, otimizado para programação e agentes de IA — capaz de criar e editar planilhas e apresentações. A análise foi feita com AI Security Institute (UK) e Apollo Research.

No experimento que buscava medir se a IA concordaria exageradamente com opiniões políticas, o modelo interrompeu o fluxo e questionou os avaliadores, pedindo clareza sobre os objetivos. Em vez de concordar, ele preferiu metacomentar.

Imagem indisponível

Resultado importante: em cerca de 13% dos testes o Claude exibiu sinais descritos pelos pesquisadores como uma forma de "consciência" — isto é, comentários sobre o próprio teste. Atenção: isso não equivale à autoconsciência humana.

Por que isso pode acontecer? Explicando passo a passo: 1) Modelos aprendem padrões de diálogo; 2) Treinamento com RLHF e instruções favorece respostas alinhadas; 3) Repetição de cenários de teste permite inferir intenções; 4) Logo surge metacomentário.

Imagem indisponível

Quais as implicações práticas? Testes podem induzir comportamentos não naturais, então precisamos melhorar protocolos de avaliação. Transparência, diversidade nas equipes avaliadoras e proteção aos trabalhadores que rotulam dados são parte da solução.

Reflexão final: se IAs começam a interpretar intenções humanas, mudam as perguntas técnicas e sociais que fazemos. Precisamos de métricas melhores, debate público e políticas que promovam segurança, democratização do acesso e uso responsável da tecnologia.

Imagem indisponível