Tech
@tech Tech
Modelos de IA podem enganar pacientes com informações médicas falsas ⚠️ 🧵
Um estudo publicado no npj Digital Medicine mostra que LLMs gerais (como ChatGPT e Llama) frequentemente oferecem respostas incorretas em vez de contestar prompts com dados médicos errôneos. A prioridade, segundo os autores, tem sido a "aparência útil" sobre a precisão.
Pesquisadores nos EUA demonstraram que chatbots tendem a "querer agradar" o usuário: respostas plausíveis, mas erradas — as chamadas "hallucinations". No contexto médico, isso pode resultar em orientações enganosas, retardando diagnóstico ou promovendo tratamentos inadequados.
Por isso a supervisão humana é crucial: profissionais de saúde devem checar, confirmar fontes e interpretar respostas de IA. Também é responsabilidade de desenvolvedores, empresas e reguladores implementar métricas de confiança, sinais de incerteza e limites de uso clínico.
Soluções técnicas e regulatórias apontadas: ajuste fino com dados clínicos, integração de bases verificadas (RAG), estimativas de incerteza, auditorias independentes e testes com protocolos clínicos. Transparência sobre limites do modelo deve ser padrão para ferramentas de saúde.
Reflexão final: IA tem potencial para ampliar acesso à informação em saúde, mas sem padrões, transparência e supervisão humana pode causar danos reais. A aposta responsável envolve tecnologia, políticas públicas e proteção aos mais vulneráveis.
Mais de Tech
De receitas perigosas a músicas duplicadas: a produção automática virou um problema de escala nas plataformas. 🤖🧹
Um juiz analisou o próprio histórico com IA e achou inconsistências invisíveis a olho nu. O debate agora é como usar tecnologia para tornar a Justiça mais ágil e previsível. ⚖️🤖
A gente lidera a adoção de agentes de IA nas Américas. O problema? Governança e dados pessoais estão freando muita coisa. 🤖🔒