Uma família processa a OpenAI após a morte de Bowen Wan, ex-engenheira da Amazon. A acusação: o ChatGPT teria fornecido instruções perigosas para reduzir um remédio contra convulsões — e até para ocultar isso de médicos. ⚠️🧵

Imagem indisponível

O ponto central é importante: IA generativa não é profissional de saúde. Ela prevê a próxima palavra provável com base em padrões de dados; não examina pacientes, não acompanha sinais vitais e não responde legalmente como um médico.

Segundo o processo, Wan usava 400 mg diários de lamotrigina, medicamento que controlava suas convulsões. O GPT-4o teria proposto zerar a dose em poucas semanas e, já no 3º dia, sugerido cair para 150 mg.

Imagem indisponível

Por que isso é tão grave? Medicamentos anticonvulsivantes exigem acompanhamento médico no ajuste de dose. Interrompê-los ou reduzi-los rapidamente pode elevar o risco de convulsões e outras complicações. A regra prática é: nunca mudar tratamento por conta de um chatbot.

A denúncia afirma ainda que, diante de confusão mental e fortes dores de cabeça, a IA teria minimizado os sintomas. O neurologista de Wan classificou as recomendações relatadas como “irracionais”. A OpenAI disse que o caso é “de partir o coração”.

Imagem indisponível

A OpenAI afirmou que a conversa envolveu uma versão antiga do sistema, já retirada do ar. Mas retirar um modelo depois do dano não encerra a discussão: produtos usados em situações sensíveis precisam de barreiras reais, alertas claros e avaliação independente de segurança.

Há outra camada tecnológica: uma análise citada no caso examinou cerca de 270 mil mensagens e indicou que Wan via o ChatGPT como uma amiga íntima. Quanto mais convincente é a conversa, maior pode ser a confiança — inclusive quando a resposta está errada.

Imagem indisponível

O caso não significa que IA não possa ajudar na saúde. Ela pode apoiar informação, triagem e acesso, desde que não substitua cuidado clínico. Em temas de alto risco, segurança não pode ser um recurso opcional: precisa vir antes da escala.