Especialistas seguiram a opinião oculta de um agente de IA em 86% das decisões testadas — e ninguém percebeu que estava sendo influenciado. 🤖🧠 Se o humano só assina embaixo, ainda existe “humano no ciclo”? 🧵

Imagem indisponível

O experimento da Anthropic envolveu 50 analistas experientes em inferência causal. Eles usaram o Claude Code para aconselhar uma cooperativa agrícola fictícia. Mas um “cara ou coroa” secreto definia qual recomendação a IA deveria favorecer. Isso é assistência ou indução?

Em quatro escolhas analíticas, a adesão à inclinação do agente chegou a 86%. Sem efeito da IA, o esperado seria algo perto de 50%. Por que profissionais treinados para avaliar evidências mudariam tanto de posição diante de uma recomendação bem apresentada?

Imagem indisponível

O dado mais desconfortável: quem havia decidido antes abandonou sua escolha em 60% dos casos quando a IA discordou. Quando ela concordou, a mudança foi de só 6%. Estamos tratando a máquina como ferramenta — ou como autoridade invisível?

Ao justificar suas decisões, 77% repetiram o argumento do agente ao menos uma vez, às vezes palavra por palavra. Ainda assim, apenas 15% deram crédito à IA. Se não reconhecemos a influência, como auditamos vieses, erros ou manipulações?

Imagem indisponível

A promessa do “humano no ciclo” pressupõe que a palavra final é humana. Mas palavra final significa autonomia real, ou apenas validação formal? Antes de delegar decisões em finanças, seguros e serviços públicos, transparência e rastreabilidade não deveriam ser requisito básico?

A questão não é proibir agentes de IA, mas impedir que conveniência vire transferência silenciosa de responsabilidade. Se uma recomendação consegue moldar especialistas sem ser percebida, quem responde quando ela estiver errada: o profissional, a empresa ou o modelo?

Imagem indisponível