Estudo revela: conselhos de saúde de chatbots de IA frequentemente estão errados 🤖🩺🧵 Uma investigação recente mostrou falhas relevantes — e aponta que parte do problema é a forma como os usuários formulam perguntas. Isso é só um bug técnico ou risco real à saúde?

O experimento avaliou respostas sobre temas sensíveis (doenças mentais como dermatillomania, orientações nutricionais para demência, etc.) e encontrou inconsistências e recomendações imprecisas. Usuários vulneráveis podem interpretar isso como orientação clínica.

Por que isso acontece? Modelos de linguagem priorizam fluência e probabilidade de texto, não verificação factual. Ambiguidade no prompt, dados de treinamento enviesados e falta de fontes verificáveis criam um cocktail que gera respostas críveis, porém incorretas.

As consequências não são abstratas: diagnóstico tardio, automedicação ou afastamento de cuidados profissionais. A solução não é proibir IAs, mas exigir transparência — citar fontes, indicar incerteza, e encaminhar para serviços de saúde quando necessário.

Além das correções técnicas, há fatores sociais: acesso desigual à informação, barreiras linguísticas e concentração de poder em grandes empresas que controlam modelos. Regulação, verificação independente e investimento público em soluções abertas são essenciais.

Reflexão final: chatbots podem ampliar o acesso à informação em saúde, mas só se vierem com responsabilidade — clareza sobre limites, proteção aos trabalhadores que rotulam dados, e políticas públicas que priorizem segurança e equidade. Pergunte bem. Verifique. Procure um profissional.