Um paciente fez uma avaliação cardiovascular. O sistema de IA indicou normalidade. Ele foi liberado — e morreu pouco depois. 🩺🤖🧵 O caso expõe uma pergunta urgente: quando a tecnologia erra, quem protege o paciente?

Imagem indisponível

A história citada no estudo é a de Joshua Sampson, atendido nos EUA. Seus dados foram inseridos no programa HeartWise, que gerou uma análise automática de baixo risco. Com isso, exames complementares não foram realizados.

Depois da morte, a autópsia identificou cardiomiopatia hipertrófica: uma doença do músculo cardíaco que pode ser detectada com investigação adequada. O ponto não é demonizar a IA. É entender o perigo de aceitar sua resposta sem validação clínica.

Imagem indisponível

Esse comportamento tem nome: automatização acrítica. É quando a recomendação da máquina parece tão objetiva que profissionais deixam de confrontá-la com sintomas, histórico, exame físico e outras evidências.

Na saúde, um algoritmo pode organizar dados e apoiar decisões. Mas não conhece sozinho todas as nuances de uma pessoa, nem assume o dever de cuidado. IA deve ser ferramenta de apoio — nunca um atalho para dispensar avaliação médica responsável.

Imagem indisponível

No Brasil, segurança do paciente é obrigação estruturada: está ligada ao direito à saúde, à lei 8.080/1990, ao Programa Nacional de Segurança do Paciente e à RDC 36/2013 da Anvisa. Tecnologia também precisa entrar nessa lógica de gestão de riscos.

A discussão jurídica muda de escala: além da conduta individual, entram em cena protocolos, treinamento, transparência do sistema, qualidade dos dados e responsabilidade de instituições e fornecedores. Inovar sem vigilância pode ampliar danos evitáveis.

Imagem indisponível

A lição é simples, mas decisiva: uma tela que diz “normal” não encerra uma investigação quando a clínica pede mais cuidado. Na medicina guiada por IA, a pergunta humana continua indispensável: “o que podemos estar deixando passar?”