MIT Technology Review: chatbots estão usando artigos retratados ao responder usuários ⚠️🤖 🧵 Isso pode contaminar respostas com ciência desacreditada e ameaçar pesquisas. Vou explicar como isso acontece, quais os riscos e como pesquisadores e usuários podem se proteger.

O que é um artigo retratado? É um estudo oficialmente removido da literatura por erros graves, fraude ou plágio. Diferente de uma "alucinação", aqui o bot cita material real — só que esse material já foi invalidado. O problema: usuários confiam mais na forma do que no status.

Como isso ocorre? Modelos são treinados com grandes corpos de texto da internet e não verificam metadados como "retratado". Eles priorizam coerência e probabilidade de palavra, não a validade científica. Weikuan Gu destaca: o bot usa um artigo real sem avisar que ele foi retratado.

Quais as consequências? Pesquisadores podem ser levados a conclusões erradas, startups perdem confiança ao construir ferramentas científicas, e a desinformação científica se espalha. Para comunidades com menos acesso a recursos, o impacto pode ser ainda maior — desigualdade informacional.

Como mitigar — práticas práticas: - Integrar checagem de metadados (Crossref, PubMed, Retraction Watch) - Usar pipelines RAG com fontes verificadas - Inserir humanos nos laços críticos - Treinar modelos para sinalizar incerteza e estado de publicação Usuários também devem checar DOI e status do artigo.

Reflexão final: IA só será útil para ciência se vier acompanhada de transparência, infraestrutura pública de verificação e responsabilidade das plataformas. Confiança exige dados limpos, rastreabilidade de fontes e políticas que democratizem acesso à informação corrigida.