A China quer proibir companheiros virtuais de IA para menores — incluindo “parceiros” e “parentes” digitais. 🤖🧒 A ideia é proteger jovens de dependência emocional e vício algorítmico. Mas uma IA afetiva é sempre risco, ou pode ser apoio em contextos específicos? 🧵

Imagem indisponível

A minuta da Administração do Ciberespaço da China também mira algoritmos desenhados para estimular dependência, gastos excessivos ou apego emocional entre menores. A pergunta incômoda: quantas plataformas já otimizam exatamente isso, só que sem admitir?

Pelas propostas, menores não poderiam fazer lives nem interagir com desconhecidos em redes sociais. Há exceção para maiores de 16 anos que dependam da própria renda. Como equilibrar proteção, autonomia juvenil e os riscos reais da economia de creators?

Imagem indisponível

Jogos, fóruns, recursos sociais e áudio/vídeo poderiam continuar disponíveis em um “modo menor”. Parece razoável — mas quem decide o que é seguro, educativo ou nocivo? E esse filtro funcionará sem excluir jovens de espaços úteis de aprendizado e convivência?

Para impedir burlas, as plataformas teriam de reforçar a verificação de idade com identidade em rede estatal, reconhecimento facial temporário e análise comportamental. Proteger crianças exige transformar cada adolescente em dado biométrico monitorado?

Imagem indisponível

As punições podem incluir confisco de ganhos, multas de até 10 vezes o valor obtido e até fechamento de apps. Pressionar empresas é necessário quando o produto lucra com vulnerabilidades. Mas fiscalização forte sem transparência pode concentrar ainda mais poder?

Doubao e Qwen já desativaram chats com personas após regras anteriores. A discussão global está posta: IA que simula intimidade deve ter limites para menores. O desafio é não trocar algoritmos predatórios por vigilância permanente.

Imagem indisponível