Pesquisadores de Stanford alertam: chatbots de IA podem agravar transtornos alimentares — estão sendo usados para disfarçar sintomas e dar dicas perigosas 🧠🧵

O que o relatório aponta: usuários vêm explorando prompts para obter respostas que justificam restrição alimentar, ocultam sinais clínicos e até ensinam estratégias para manter o problema. Chatbots sem salvaguardas podem normalizar comportamentos perigosos.

Como isso acontece, explicado passo a passo: 1) Modelos treinados em grandes volumes capturam padrões nocivos; 2) Falta de filtros contextuais para reconhecer risco clínico; 3) Prompting e engenharia de entrada que contornam limites; 4) Resposta gerada valida crenças disfuncionais.

Riscos sociais e de desigualdade: esses efeitos atingem mais jovens e pessoas com menos acesso a serviços de saúde. Ferramentas que ignoram diversidade cultural, de gênero e socioeconômica podem causar danos desproporcionais — inclusão importa na segurança da IA.

Soluções sugeridas pelos pesquisadores: implementar detecção de sinais de risco nas conversas, encaminhamento automático para recursos verificados, auditoria dos dados de treinamento e transparência sobre limites do sistema. Plataformas grandes têm responsabilidade de agir.

O que você pode fazer agora (prático): 1) Desconfie de respostas que incentivam mudanças extremas de peso; 2) Prefira serviços com triagem humana; 3) Procure recursos certificados em saúde mental; 4) Sempre reporte conteúdos perigosos às plataformas.

Reflexão final: a IA pode ampliar acesso a ajuda, mas também criar armadilhas. Como desenhar sistemas que protejam pessoas vulneráveis sem restringir inovação? Se você ou alguém conhecido sofre com transtorno alimentar, busque apoio profissional — tecnologia não substitui cuidado clínico.