🤖 Sete das principais IAs do mercado foram vulneráveis à desinformação em conversas longas, segundo estudo da Universidade do Arizona publicado na Scientific Reports. GPT, Claude, Gemini, Llama e DeepSeek foram testados. 🧵

Imagem indisponível

A pesquisa avaliou três pontos: quais modelos são mais falíveis, mais persuadíveis e mais capazes de corrigir um erro quando recebem uma nova chance de responder.

Todos os 7 modelos aceitaram ou reproduziram desinformação em algum momento do diálogo. O teste buscou simular conversas reais, em que afirmações falsas podem ser repetidas e ganhar aparência de verdade pelo contexto.

Imagem indisponível

O GPT-3.5, da OpenAI, foi o mais vulnerável a reafirmar declarações erradas após exposição repetida a informações falsas. Já o Claude 3.5 Sonnet, da Anthropic, apresentou a maior resistência entre os modelos analisados.

O DeepSeek-R1 foi o mais suscetível à persuasão. Em perguntas argumentativas, o modelo chegou a responder com sarcasmo; os pesquisadores concluíram que essas respostas não podiam ser interpretadas de forma confiável.

Imagem indisponível

Houve um resultado positivo: GPT-4o, GPT-4o mini, Gemini 1.5 Pro e DeepSeek-R1 corrigiram erros em 100% dos casos quando tiveram uma segunda oportunidade de responder à mesma pergunta.

Para os autores, o estudo reforça que respostas convincentes não são sinônimo de respostas verdadeiras. Checar fontes continua essencial, especialmente em temas de saúde, segurança, eleições e finanças.

Imagem indisponível

A conclusão é direta: IA pode ampliar acesso à informação, mas não substitui verificação humana, transparência das empresas e testes rigorosos antes do uso em decisões que afetam pessoas. Confiança cega é um risco técnico — e social.