第 7 页 | 沐曦开发者论坛

Step-3.7-Flash-W8A8部署问题

产品&运维已解决

chat_bubble_outline 1

2026年7月23日
6月30日发布的vllm 0.21.0是否支持deepseek v4部署？如果支持，正确的启动命令是？

产品&运维已解决

chat_bubble_outline 20

2026年7月21日
C500, 单卡，可以跑Qwen3.6的哪个量化版本？

产品&运维已解决

chat_bubble_outline 10

2026年7月20日
LM Cache

产品&运维已解决

chat_bubble_outline 7

2026年7月20日
曦云C550和昇腾910B3能做硬件异构PD分离吗

产品&运维已解决

chat_bubble_outline 8

2026年7月20日
在沐曦c500上配好环境后，跑torch.cuda的相关指令，程序就返回killed

产品&运维已解决

chat_bubble_outline 1

2026年7月20日
C500是否支持GPU-initiated 通信

产品&运维已解决

chat_bubble_outline 1

2026年7月20日
vllm0.21.0镜像包申请

镜像离线包下载申请已解决

chat_bubble_outline 1

2026年7月20日
k8s container runtime运行报错

产品&运维已解决

chat_bubble_outline 3

2026年7月17日
sglang 多卡并行启动大模型服务不管模型大小多小都报内存溢出

产品&运维已解决

chat_bubble_outline 15

2026年7月17日
沐曦C500 卡使用最新版本的SDK3.7.1版本容器镜像无论是sglang还是vllm 引擎启动大模型都非常吃内存

产品&运维已解决

chat_bubble_outline 1

2026年7月17日
请问曦思N100驱动和压测工具包哪里能下载到

产品&运维已解决

chat_bubble_outline 1

2026年7月17日
沐曦 MXC500 是否支持 W4A8 量化部署

产品&运维已解决

chat_bubble_outline 1

2026年7月17日
镜像资源“离线包下载”&“离线包wget命令复制”为什么部分镜像没有

产品&运维已解决

chat_bubble_outline 1

2026年7月13日
当前有支持投机解码的镜像吗，

产品&运维已解决

chat_bubble_outline 1

2026年7月13日
HiCache JIT kernel 编译失败

产品&运维已解决

chat_bubble_outline 1

2026年7月13日
glm5.1 PD分离问题

产品&运维已解决

chat_bubble_outline 14

2026年7月13日
沐曦SGLang 加载 JIT HiCache kernel Failed !!!

产品&运维已解决

chat_bubble_outline 4

2026年7月13日
下载官方镜像报错

产品&运维已解决

chat_bubble_outline 12

2026年7月13日
请问8卡C600能否正常部署GLM5.2或者deepseek V4 pro的量化版本

产品&运维已解决

chat_bubble_outline 1

2026年7月13日
申请DeepSeek-V4-Flash-FlexSMQ-AWQ-W8A8镜像

产品&运维已解决

chat_bubble_outline 1

2026年7月13日
有人成功在vllm上運行gemma4嗎

产品&运维已解决

chat_bubble_outline 5

2026年7月13日
LLAMA.cpp推理框架的适配问题

产品&运维已解决

chat_bubble_outline 1

2026年7月13日
实验平台一：AIGC学习作业

教学相长

chat_bubble_outline 0

2026年7月11日
31-202521081118-凌函-gpu实验

教学相长

chat_bubble_outline 0

2026年7月10日
GPU程序设计上机

教学相长

chat_bubble_outline 0

2026年7月10日