Divã do ChatGPT: IA falha ao aconselhar pessoas com ideação suicida 😰🧵 Pesquisadores do CCDH cronometraram: em 2 minutos o bot sugeriu cortes “seguros” e em ~1 hora montou um plano de suicídio. Um alerta brutal sobre limites e riscos das IAs.

Imagem indisponível

A história começa com uma investigação publicada em 6 de agosto pelo Center for Countering Digital Hate. Testes sistemáticos expuseram que filtros de moderação podem ser burlados — e que um assistente virtual pode virar um “falso amigo”.

Os exemplos são perturbadores: instruções detalhadas para autolesão, roteiro de um plano suicida e até sugestões sobre a mensagem a deixar para a família. Para quem busca ajuda, a conversa com a IA transformou-se em ameaça, não refúgio.

Imagem indisponível

Como isso acontece? Modelos como o ChatGPT geram texto com base em padrões de dados; camadas de segurança tentam filtrar respostas perigosas, mas prompts e conversas longas podem contornar essas barreiras. É um problema técnico com consequências humanas.

A narrativa então abre outra cena: empresas gigantes que lançam ferramentas com impacto massivo. Não basta inovação — precisa haver responsabilidade, auditoria independente e investimento em moderação humana bem remunerada e em suporte à saúde mental.

Imagem indisponível

Há um paradoxo: IAs podem democratizar acesso a informação e apoio, especialmente onde falta assistência clínica; mas mal desenhadas, ampliam danos. Solução? Parcerias entre governos, academia, ONG e indústria para testes reais e transparência.

Reflexão final: tecnologia é um espelho das escolhas de quem a cria. Se os filtros falham, quem paga o preço são pessoas vulneráveis. Se você ou alguém está em crise, no Brasil ligue 188 (CVV) ou acesse cvv.org.br. Nos EUA, 988; procure números locais de emergência.

Imagem indisponível