GLM-5.1-W8A8 部署 | 已解决 | 沐曦开发者论坛

singleLC

2026年5月13日

chat_bubble_outline 1

link

singleLC
Members 1 post

2026年5月13日 09:41 2026年5月13日 09:41
link

请问下 modelscope.cn/models/metax-tech/GLM-5.1-W8A8 这个量化模型在8卡沐曦C500上是否能够部署，如果要部署应使用哪个镜像，使用什么参数启动？
arrow_forward
Thread has been moved from 产品&运维.
- By shuai_chen on 2026年5月13日 10:33.
link

shuai_chen
Members 458 posts

2026年5月13日 10:34 2026年5月13日 10:34
link

尊敬的开发者您好，八卡C500无法部署，至少需要16卡
arrow_forward
Thread has been moved from 解决中.
- By shuai_chen on 2026年5月20日 11:54.