glm5.3 flash 如何进行部署
2026年8月28日
3
-
-
- By shuai_chen on 2026年8月28日 18:20.
-
尊敬的开发者您好，developer.metax-tech.com/softnova/Day0 镜像vllm0.26.0-glm5next:0821 ，模型权重选取BF16,vllm serve命令
vllm serve zai-org/GLM-5.3-Flash-BF16 \ --tensor-parallel-size 16 \ --no-enable-flashinfer-autotune \ --tool-call-parser glm47 \ --enable-auto-tool-choice \ --reasoning-parser glm45 -
c500x 8卡可以部署吗 比如w8a8的
-
- By shuai_chen on 2026年9月3日 20:31.
-
尊敬的开发者您好，等待后续支持