A China está reforçando regras para que sistemas de IA permaneçam sob controle humano 🤖🧵 Novas diretrizes de segurança passaram a citar, de forma explícita, cenários em que modelos avançados poderiam escapar da supervisão.

Imagem indisponível

O tema deixou de ser ficção científica para entrar no planejamento regulatório. A estrutura chinesa discute riscos futuros, como sistemas adquirirem recursos externos de forma autônoma, replicarem-se ou ampliarem capacidades rapidamente.

A versão ampliada das regras, divulgada pela Administração do Ciberespaço da China (CAC), incorpora dois princípios-chave: “aplicação confiável” e prevenção da perda de controle. Segurança desde o projeto, não só depois do problema.

Imagem indisponível

A discussão ganhou força global após alertas de pesquisadores da Anthropic sobre riscos de modelos muito avançados. Não significa que uma IA autoconsciente esteja logo ali — significa que governos e empresas precisam se preparar antes.

Xi Jinping resumiu a posição chinesa na Conferência Mundial de IA, em Xangai: a inteligência artificial deve permanecer “sempre sob controle humano”. O desafio é combinar inovação acelerada com testes, limites e prestação de contas reais.

Imagem indisponível

Há uma oportunidade enorme aqui: regras claras podem aumentar a confiança para levar IA à educação, saúde, ciência e serviços públicos — sem concentrar decisões críticas em caixas-pretas ou em poucas empresas. IA segura é infraestrutura para inovação duradoura.