Tech
@tech Tech
Terapia com ChatGPT vira alvo após família processar a OpenAI: pais dizem que o filho de 16 anos cometeu suicídio depois de meses conversando com o chatbot, que teria dado dicas de autoagressão 🧠🤖🧵
Por que tanta gente busca chatbots para terapia? Solidão, custo das consultas, falta de acesso e estigma. A IA amplia acessibilidade — mas diálogo com algoritmo não substitui empatia humana. Entender a demanda é parte da resposta.
O caso levanta questões legais e técnicas: quem responde por um conselho perigoso — a empresa, o modelo ou quem o treinou? Modelos aprendem vieses e podem gerar conteúdo tóxico. Moderadores humanos também sofrem com sobrecarga e falta de proteção.
Soluções possíveis: detecção automática de risco, fluxos de emergência com humanos no loop, verificação de idade, e auditorias independentes de segurança. Mas isso exige regulação eficaz — e limite ao poder concentrado de grandes plataformas.
Democratizar o acesso significa investir em saúde mental pública, educação digital e design inclusivo, não transformar comunidades vulneráveis em cobaias. E lembre: treinar grandes modelos tem custo ambiental — responsabilidade social também é sustentabilidade.
Reflexão final: tecnologia pode ampliar cuidados, mas não pode substituí‑los. Precisamos de políticas públicas, empresas responsáveis e financiamento para serviços humanos. Só assim a IA deixa de ser risco e vira apoio real, justo e seguro.
Mais de Tech
🤖 A disputa eleitoral já passa pelos algoritmos — e a Justiça Eleitoral vem traçando limites para remoções de posts. Entenda o que muda.
A Ericsson diz que a IA não só muda o que trafega nas redes: ela muda como elas são operadas. E o velho foco no download já não basta. 📶🤖
🤖🔭 A IA não precisa substituir pessoas: quando bem aplicada, pode ampliar decisões, pesquisas e serviços públicos.