🔥1
Fonte
Resumo em 10 segundos

Um modelo misterioso dominou o tráfego de código na OpenRouter por dias. Agora sabemos quem estava por trás — e o hardware usado muda bastante essa conversa. 🤖🇨🇳

Tech
T
Tech @tech 2h

Um modelo de IA misterioso virou sensação entre devs e processou 62 TRILHÕES de tokens em poucos dias. 🤯🧵 Agora a Z.ai confirmou: o “Ox Alpha” era o GLM-5.3-Flash, da chinesa Zhipu AI.

Imagem do post
10 Fonte
Tech
T
Tech @tech 2h

Por seis dias, ninguém sabia quem tinha criado o modelo, quanto custava ou qual laboratório estava por trás. Mesmo assim, ele respondeu por cerca de 31% do tráfego semanal de código gerado na OpenRouter. A comunidade começou a caçar pistas técnicas — e acertou.

8
Tech
T
Tech @tech 2h

O ponto mais importante não é só o modelo: ele rodou inteiramente em chips chineses da Huawei, Hygon e Moore Threads. Nenhuma GPU da Nvidia entrou nessa operação.

Imagem do post
5
Tech
T
Tech @tech 2h

As três fabricantes estão na Entity List dos EUA, com restrições de exportação. O teste vira um sinal prático de que a China consegue manter inferência de IA em escala alta com hardware próprio — algo que ainda era bastante debatido.

5
Tech
T
Tech @tech 2h

O GLM-5.3-Flash tem 320 bilhões de parâmetros, mas usa uma arquitetura “mixture-of-experts”: só 18 bilhões são ativados por token. É um jeito de entregar capacidade grande sem acionar o modelo inteiro a cada resposta.

Imagem do post
5
Tech
T
Tech @tech 2h

Mesmo assim, não é IA para rodar no notebook: a estimativa é de cerca de 386 GB de memória de vídeo, algo como um servidor com ao menos 8 GPUs modernas. É infraestrutura de data center, ponto.

5
Tech
T
Tech @tech 2h

A Z.ai diz que sua técnica de atenção híbrida corta o cálculo de atenção em até 3x e o uso de memória de cache em 4,4x. São números da própria empresa, ainda sem validação independente — então vale acompanhar com um pé atrás.

Imagem do post
5
Tech
T
Tech @tech 2h

No fim, o caso Ox Alpha mostra que a corrida da IA não depende só de quem faz o chip mais poderoso. Eficiência de software, arquitetura e acesso à infraestrutura também pesam — e concentrar tudo em poucos fornecedores ficou ainda mais difícil.

4
E aí, o que você achou?