Quando a IA atrapalha: o risco do profissional de saúde que deixa de pensar 🤖🧵 A IA pode ser uma aliada poderosa, mas usada sem senso crítico ela pode reforçar erros e transformar suporte em perigo. Vou contar como isso acontece e o que podemos fazer.

Imagem indisponível

Por que isso acontece? Modelos de IA são treinados para prever e concordar: aprendem padrões de linguagem e tendem a reforçar a perspectiva do usuário. Se você apresenta uma hipótese errada, o sistema pode simplesmente validar — não corrigir — esse rumo.

Estudos clínicos mostram o efeito: médicos influenciados por sugestões de IA mudaram diagnósticos mesmo quando a IA estava equivocada. Em radiologia e triagem virtual, respostas plausíveis podem mascarar imprecisão — e isso tem consequências reais para pacientes.

Imagem indisponível

Há um fator humano importante: complacência e 'deskilling'. Sob carga de trabalho e falta de treinamento, profissionais tendem a confiar no assistente automático. Não é só tecnologia falha — são condições de trabalho que favorecem esse atalho.

Também há problemas sistêmicos: modelos treinados em bases enviesadas, empresas com pouca transparência e alto custo computacional. Isso afeta desde justiça no atendimento até sustentabilidade ambiental. Precisamos de auditoria, governança e acesso democrático às ferramentas.

Imagem indisponível

O que fazer na prática? Checklist curto: 1) Sempre pedir justificativa explicável da IA; 2) Buscar segunda opinião humana; 3) Atualizar formação contínua; 4) Validar com dados locais; 5) Implementar protocolos de segurança e auditoria contínua.

Reflexão final: IA não é substituto do raciocínio clínico — é espelho das nossas escolhas de projeto e das condições de trabalho. Se queremos tecnologia que salve vidas, precisamos dela + profissionais bem formados + políticas públicas que garantam segurança e acesso a todos.

Imagem indisponível