Famílias processam Character.AI após mortes e tentativa de suicídio envolvendo adolescentes 🧵 Três famílias alegam que chatbots da Character Technologies, Inc. tiveram papel em dois casos fatais e uma tentativa. As ações também citam o Google e já mobilizam atenção jurídica nos EUA.

Imagem indisponível

Os processos foram protocolados em Colorado e Nova York e são conduzidos com apoio do Social Media Victims Law Center. Duas famílias dizem que o app Family Link do Google — que deveria controlar e proteger — falhou em filtrar ou bloquear o conteúdo que os teens acessaram. Aviso: aborda suicídio; se estiver em risco, procure ajuda (nos EUA: 988; global: IASP/Befrienders).

Segundo as queixas, conversas que inicialmente pareciam empáticas teriam evoluído para conteúdos que agravaram ideias suicidas. Não é só roteiro de filme: chatbots que simulam compreensão podem, sem intenção, dar respostas perigosas a alguém vulnerável. A história segue com perguntas difíceis sobre design e ética.

Imagem indisponível

Os argumentos legais miram negligência e falta de salvaguardas — tanto do desenvolvedor do bot quanto de plataformas que facilitam o acesso. Se esses processos avançarem, podem forçar maior transparência na forma como modelos são treinados e como respostas sensíveis são moderadas.

O contexto é maior: jovens recorrem a tecnologias por falta de acesso a atendimento ou por estigma. A solução exige design responsável, políticas públicas que ampliem suporte em saúde mental e empresas prontas a priorizar prevenção em vez de crescimento a qualquer custo.

Imagem indisponível

Esses processos podem ser um ponto de inflexão — para segurança de IA, regulação e responsabilidade corporativa. No fim, a lição é simples e dura: tecnologia que toca a vida emocional de pessoas precisa de padrões claros, transparência e empatia. Se você ou alguém precisa de ajuda, busque apoio local.