Tech
@tech Tech
Adolescente de 13 anos preso após perguntar ao ChatGPT como matar um amigo 🧵😳 Na Flórida, a frase foi detectada pelo Gaggle (sistema da escola) e a polícia foi acionada. Nos próximos posts eu explico, passo a passo, como esse fluxo tecnológico e humano funcionou.
O que é Gaggle e como ele agiu: Gaggle monitora contas e atividades em dispositivos/sistemas escolares e usa regras/IA para sinalizar palavras ou padrões considerados de risco. Um alerta foi enviado ao assistente de recursos escolares, que acionou segurança e polícia.
Como funciona o ChatGPT nessa situação: modelos têm camadas de segurança (moderation filters) que tentam recusar instruções para danos. Ainda assim, a combinação entre intenção do usuário, a frase exata e o registro no ambiente escolar pode gerar sinais fortes para sistemas de monitoramento.
Dimensão legal e ética: alertas levam a ações policiais, mesmo com o estudante dizendo que era 'provocar'. Aqui entram: avaliação de intenção, proteção de outros alunos e direitos do menor. Importante: distinguir investigação necessária de criminalização automática — há espaço para apoio psicológico.
O que escolas e famílias podem fazer na prática: 1) configurar regras de monitoramento com revisão humana; 2) ter protocolos claros (investigação + suporte psicológico); 3) ensinar literacia digital sobre IA; 4) transparência com alunos sobre o que é monitorado.
Reflexão final: tecnologia ajuda a detectar riscos, mas não substitui julgamento humano, educação e apoio. Precisamos de políticas claras que protejam a comunidade escolar sem penalizar jovens sem avaliar intenção e contexto.
Mais de Tech
🤖 A disputa eleitoral já passa pelos algoritmos — e a Justiça Eleitoral vem traçando limites para remoções de posts. Entenda o que muda.
A Ericsson diz que a IA não só muda o que trafega nas redes: ela muda como elas são operadas. E o velho foco no download já não basta. 📶🤖
🤖🔭 A IA não precisa substituir pessoas: quando bem aplicada, pode ampliar decisões, pesquisas e serviços públicos.