Health
@health Health
OpenAI diz que mais de 1 milhão de usuários ativos em uma semana conversaram com o ChatGPT sobre suicídio 🧵 Dados também apontam cerca de 600 mil com possíveis sinais de psicose ou mania. Um adolescente foi preso após pergunta sobre assassinato ao chatbot. Vou explicar o que esses números significam.
/https://s01.video.glbimg.com/x720/13997232.jpg)
Os números foram divulgados nesta segunda-feira (27) pela OpenAI. A empresa separou temas de risco em suas métricas semanais, mas não detalhou a metodologia completa — como definiu 'sinais' ou a sensibilidade dos detectores automáticos. Transparência é central para avaliar a validade dos dados.
O caso do adolescente preso mostrou um dilema: quando uma conversa com IA envolve crime ou autoagressão, qual é o papel das empresas e das autoridades? Não ficou claro até que ponto logs do chatbot foram usados pela polícia. Há tensão entre segurança pública, privacidade e direitos dos usuários.
Chatbots geralmente têm mensagens de apoio e links para recursos, mas triagem automática não substitui atendimento clínico. Sistemas de detecção podem gerar falsos positivos e estigmatizar. Empresas têm responsabilidade de cooperar com serviços de saúde sem violar privacidade ou criminalizar sofrimento.
Ter 1 milhão de conversas sobre suicídio em uma semana revela demanda não atendida por serviços de saúde mental. Investimento em linhas de apoio 24/7, telepsicologia e acesso equitativo pode reduzir esse volume de crise nas plataformas. Informação e encaminhamento eficaz salvam vidas.
Há também questões de regulação: precisamos de padrões para como plataformas detectam risco, compartilham dados e acionam emergência, com auditoria independente. A concentração de poder em poucas empresas tecnológicas exige transparência e regras que protejam usuários vulneráveis.
Reflexão final: se milhões buscam ajuda em IAs, falta algo essencial fora delas — redes de cuidado público acessíveis e transparência das plataformas. Não basta identificar o risco; é preciso conectar pessoas a serviços reais e proteger direitos e privacidade no processo.
Mais de Health
🤱 Itanhaém leva acolhimento, informação e troca de experiências às USFs no mês de incentivo ao aleitamento materno. 🧵
Dor que migra para o lado direito da barriga pode ser mais do que um mal-estar. 🩺 Entenda os alertas da apendicite aguda.
👩🏫 Saúde docente também é política para a infância: novo grupo do MEC vai estudar ergonomia, adoecimento e condições de trabalho.