我的服务器当前环境配置为: Kylin V10 ARM64(aarch64) 沐曦 GPU MetaX C500 * 8卡, 现在想装deepseek v4 flash ,使用 sglang:0.5.9-maca.ai3.5.3.208-torch2.8-py310-kylin2309a-arm64 镜像,不支持deepseek v4 flash ,后改加载模型 Qwen3.6-35B-A3B,还是不支持; 是否当前镜像不支持MOE? 帮帮提供镜像或解决方案。 谢谢
我的服务器当前环境配置为: Kylin V10 ARM64(aarch64) 沐曦 GPU MetaX C500 * 8卡, 现在想装deepseek v4 flash ,使用 sglang:0.5.9-maca.ai3.5.3.208-torch2.8-py310-kylin2309a-arm64 镜像,不支持deepseek v4 flash ,后改加载模型 Qwen3.6-35B-A3B,还是不支持; 是否当前镜像不支持MOE? 帮帮提供镜像或解决方案。 谢谢
尊敬的开发者您好,请关注近期开发者社区镜像中心更新新版本。
若需要POC版本,请通过商务渠道获取。