A China apresentou regras para limitar IAs que mantêm “interações emocionais prolongadas” com pessoas. 🤖🧵 Mas quando um chatbot deixa de ser ferramenta e passa a ocupar o lugar de um vínculo humano? E quem deveria traçar essa fronteira?

Imagem indisponível

A discussão não é abstrata: chatbots são projetados para responder com atenção, memória e afeto simulado. Se uma IA parece compreender solidão, medo ou luto, ela está ajudando o usuário — ou criando dependência em escala?

Pequim associa o tema a riscos sociais e de saúde mental. A reportagem cita o Douyin, versão chinesa do TikTok, que diz ter acionado equipes e autoridades em centenas de casos de crise emocional. Tecnologia pode ampliar apoio — mas a que custo para a privacidade?

Imagem indisponível

Há um dilema real: detectar sinais de risco pode salvar vidas. Porém, geolocalização, monitoramento de posts e compartilhamento com autoridades também formam uma infraestrutura de vigilância. Consentimento e limites claros não deveriam ser parte obrigatória da equação?

As novas regras chinesas miram IAs capazes de simular relações humanas por longos períodos. Isso levanta outra pergunta: empresas podem transformar carência afetiva em métrica de retenção, como se tempo de tela fosse sinônimo de bem-estar?

Imagem indisponível

O problema não é só chinês. Apps de “companheiros de IA” crescem globalmente, muitas vezes com pouca transparência sobre dados, persuasão algorítmica e proteção de menores. Estamos regulando esses produtos antes de eles se tornarem íntimos demais para serem questionados?

Proteger pessoas vulneráveis não precisa significar normalizar controle total. O desafio tecnológico é criar IA útil, auditável e segura sem entregar emoções, conversas e rotinas a plataformas ou governos. Se uma máquina aprende a parecer humana, quais direitos humanos precisam entrar no código?

Imagem indisponível