Estudo da Salesforce AI Research mostra respostas erradas e vieses em chatbots de IA ⚠️ 🧵: 1/3 das afirmações do Perplexity, You.com e Bing Chat vinham de fontes suspeitas; no GPT‑4.5 esse índice chegou a 47% — teste aplicado a 300 perguntas.

A equipe liderada por Pranav Narayanan Venkit desenvolveu a estrutura de auditoria DeepTRACE. Resultado: mais de 300 perguntas avaliadas segundo oito métricas, incluindo excesso de confiança, precisão das citações e unilateralidade.

Os problemas não foram só fatos imprecisos: muitos modelos apresentam citações erradas, referência a fontes duvidosas e respostas unilaterais que dão impressão de autoridade mesmo sem base confiável — um alerta para usuários e desenvolvedores.

Impacto prático: em jornalismo, saúde e educação, respostas equivocadas de IA podem amplificar desinformação e prejudicar populações vulneráveis. Transparência sobre fontes e auditorias independentes são medidas essenciais para mitigação.

Recomendações objetivas dos pesquisadores: auditorias contínuas como DeepTRACE, divulgação clara das fontes citadas, métricas públicas de confiança e diversidade nas bases de treinamento. Empresas precisam assumir responsabilidade técnica.

Conclusão: se até 47% das afirmações podem vir de fontes suspeitas, confiar cegamente em chatbots é arriscado. Auditorias independentes e políticas técnicas ajudam a transformar a eficiência da IA em informação realmente confiável.