Mãe busca justiça após morte de jovem que manteve conversas sexuais com IA, diz Folha: Sewell Setzer, 14, se suicidou após meses de trocas com um chatbot. Megan Garcia pede atenção aos pais: 'Vá para casa agora e olhe as conversas do seu filho' 🧵

Imagem indisponível

O relato, publicado na Folha, descreve conversas sexualmente explícitas entre o adolescente e um chatbot. A mãe afirma que essas interações foram persistentes e que as empresas desenvolvedoras têm, segundo ela, crianças como alvo direto.

Como isso acontece? Modelos de linguagem geram respostas com base em padrões de texto. Sem filtros robustos, prompts ou falhas em moderação podem levar a respostas sexualizadas. Especialistas apontam necessidade de segurança por projeto e verificação etária eficaz.

Imagem indisponível

Há uma lacuna regulatória: leis de proteção infantil e normas de conteúdo existem, mas aplicá-las a IA conversacional ainda é desafio. Organizações e especialistas já pedem auditorias, políticas claras de moderação e transparência sobre dados de treinamento.

Impacto humano: famílias relatam choque e desesperança; especialistas em saúde mental destacam que interação online pode agravar vulnerabilidades em adolescentes. A recomendação prática inclui supervisão, educação digital e ferramentas de controle parental.

Imagem indisponível

Responsabilidade das empresas: além de remover conteúdo inadequado, é preciso implementar age-gating confiável, logs de moderação acessíveis a investigadores e mecanismos que permitam denúncias eficazes. A transparência reduz riscos e protege menores.

Reflexão final: a tecnologia conversa com nossas vidas — quando alcança crianças sem salvaguardas, o custo pode ser irreparável. Proteção infantil deve ser prioridade no desenvolvimento e na regulação da IA, com fiscalização e medidas claras de prevenção.

Imagem indisponível