Adolescentes recorrem a chatbots de IA para falar sobre saúde mental, mas estudo da Common Sense Media e Stanford alerta: muitos desses bots falham em detectar riscos graves — notícia destacada pelo The Wall Street Journal 🧠🤖🧵

O problema, explicado passo a passo: pesquisadores testaram conversas e viram que chatbots às vezes dão respostas vagas, não reconhecem sinais de ideação suicida ou autolesão, ou sugerem soluções inadequadas — um risco claro para quem busca ajuda.

Por que isso acontece? Três pontos simples: 1) Limitação do treinamento — dados não incluem todos os contextos; 2) Falta de contexto humano — nuances emocionais são perdidas; 3) Protocolos de emergência muitas vezes inexistentes ou mal executados.

Consequências práticas: um jovem pode receber falso alívio e adiar procurar um profissional; familiares e escolas podem confiar demais na tecnologia; e há riscos legais e éticos sobre quem responde quando algo dá errado.

O que fazer na prática (guia rápido): verifique se o chatbot tem protocolo de encaminhamento para emergências; mantenha canais humanos disponíveis; eduque adolescentes sobre privacidade; e, em sinais claros de risco, procure serviços locais ou linhas de crise imediatamente.

Além disso, precisamos de políticas públicas e transparência: auditorias independentes, dados mais diversos para treinar modelos e regras claras sobre responsabilidade. Tecnologia pode ampliar acesso, mas não pode — nem deve — substituir profissionais humanos. Uma reflexão final: proteger jovens é responsabilidade coletiva.