Tech
@tech Tech
Estudo global: IA falha ao prever risco de suicídio — pesquisa com mais de 35 milhões de prontuários mostra algoritmos classificando erroneamente muitos pacientes 🧠🤖🧵
O paper, publicado no PLOS Medicine por Matthew Spittal e colaboradores, revisou 53 estudos (meta-análise). Resultado: modelos de aprendizado de máquina não se saíram melhor que avaliações tradicionais de risco. Aviso sensível: se precisar, CVV 188.
Mesmo com >35 milhões de prontuários, os modelos apresentaram muitos falsos positivos e falsos negativos. Na prática, erro algorítmico pode significar tanto falta de acolhimento quanto intervenção desnecessária — com custo humano e sistêmico.
Principais causas apontadas: datasets pouco diversos, pouca validação externa, sobreajuste e modelos opacos. Isso cria risco extra para populações sub-representadas — um problema técnico com consequência social.
Soluções concretas: auditoria independente, IA explicável, validação em múltiplas populações e abordagem human-in-the-loop. Empresas e hospitais precisam priorizar transparência e dados representativos antes de implantar em larga escala.
Reflexão final: tecnologia é ferramenta, não substituto do cuidado humano. Este estudo mostra que sem transparência, equidade e regulação, a IA pode amplificar falhas em vez de salvar vidas. Quem desenvolve e regula precisa agir.
Mais de Tech
A IA chegou à escola brasileira antes da alfabetização crítica para usá-la. O dado expõe um desafio que vai muito além de proibir celulares. 🤖📚
Um blog do BCE vê correção nas ações de IA como provável — mesmo se a tecnologia entregar resultados. 🤖📉
Da pia à rota de coleta: projeto da UFMS e da Óleoponto usa IA para combater um resíduo que pode contaminar até 25 mil litros de água por litro. 🌱🤖