🩺🤖 Se uma IA recomenda um diagnóstico errado e o médico segue a sugestão, de quem é a culpa? Um estudo premiado coloca o dilema no centro da medicina digital: a supervisão humana não pode virar apenas um carimbo. 🧵

Imagem indisponível

No modelo brasileiro, o médico em geral responde por culpa: negligência, imprudência ou imperícia. Um resultado adverso, sozinho, não prova erro. Mas a IA embaralha a pergunta-chave: qual era, de fato, o controle do profissional sobre a decisão?

A decisão agora é sociotécnica: médico, hospital e fornecedor do sistema dividem informação e poder de intervenção. Responsabilizar só quem está na ponta pode esconder falhas de dados, design, validação ou infraestrutura — e blindar quem construiu a ferramenta.

Imagem indisponível

O estudo dialoga com a resolução CFM 2.454/2026 e com o AI Act europeu, olhando para três pilares: supervisão humana real, rastreabilidade e governança de riscos. Não basta dizer que havia um humano no processo; é preciso saber o que ele podia verificar e contestar.

A tese é mais sofisticada que “a IA decide” ou “o médico sempre responde”: a culpa pode depender de uma justificativa crítica para aceitar ou rejeitar a recomendação. Isso exige ferramenta validada, pertinência ao caso e tempo, treinamento e informação para supervisionar.

Imagem indisponível

Há um risco prático: sistemas treinados com bases pouco representativas podem falhar mais em grupos já subatendidos. Sem auditoria, transparência e protocolos clínicos, a IA pode automatizar desigualdades — enquanto a responsabilidade fica difusa.

A questão decisiva não é se a IA substituirá médicos. É se hospitais e plataformas criarão condições concretas para que profissionais questionem a máquina. Quando a supervisão é impossível na prática, chamá-la de “humana” vira apenas uma ficção jurídica.

Imagem indisponível