已解决 | 沐曦开发者论坛

Step-3.7-Flash-W8A8 部署

chat_bubble_outline 1

2026年6月22日
minimax m3要部署的话，C550大概需要几P几D才够？

chat_bubble_outline 6

2026年6月22日
曦云C500用sglang:0.5.10布qwen3.6-35b-w8a8单卡成功双卡失败

chat_bubble_outline 6

2026年6月22日
qwen3.5 397b官方有提供int4量化的吗？

chat_bubble_outline 4

2026年6月22日
modelzoo.llm.vllm和vllm

chat_bubble_outline 1

2026年6月22日
宿主机上安装完vllm-metax后，如何安装官方的vllm

chat_bubble_outline 23

2026年6月17日
C500推理提问回答后返回为null

chat_bubble_outline 6

2026年6月17日
mcProfiler 在模力方舟实例上的使用

chat_bubble_outline 1

2026年6月17日
【求助】沐曦8卡C500单机跑Deepseek量化版，当上下文长度设置为400K时，1-2人同时使用就会崩溃报错。

chat_bubble_outline 1

2026年6月17日
MetaX C500 使用 vllm-metax:0.19.0-maca.ai3.5.3.502-torch2.8-py312镜像部署 Qwen3.6-35B-A3B-FP8 失败

chat_bubble_outline 1

2026年6月17日
/bin/sh: 1: /opt/maca/tools/cu-bridge/bin/nvcc: not found

chat_bubble_outline 3

2026年6月17日
DeepSeek-V4-Flash-FlexSMQ-AWQ-W8A8 算子重复注册，想问一下那个镜像可以用，

chat_bubble_outline 2

2026年6月17日
vllm-metax:0.20.0-maca.ai3.7.0.107-torch2.8-py312-ubuntu22.04-amd64启动qwen-asr0.6B模型内存过高

chat_bubble_outline 1

2026年6月17日
沐曦C500 8卡测试请问推荐下载哪个版本的vllm镜像

chat_bubble_outline 12

2026年6月17日
deepseekv4pro

chat_bubble_outline 1

2026年6月17日
申请PaddleOCR-VL离线镜像包

chat_bubble_outline 1

2026年6月17日
LMCache 0.4.4+maca 版本是否支持 P2P 多节点 KV Cache 共享？NIXL 已就绪但 lmcache.experimental 模块缺失

chat_bubble_outline 5

2026年6月17日
DeepSeek-V4

chat_bubble_outline 4

2026年6月15日
沐曦C500支持部署DeepSeek V4 Pro吗？最少需要几台？

chat_bubble_outline 5

2026年6月15日
c500可以直接用vllm镜像启动bf16的模型吗

chat_bubble_outline 10

2026年6月15日
在k8s中container-runtime会自动去掉docker中已有Insecure Registries

chat_bubble_outline 13

2026年6月15日
没有实验环境呀

chat_bubble_outline 1

2026年6月15日
沐曦哪款显卡可以推理和训练yolo

chat_bubble_outline 9

2026年6月15日
单卡N260部署AlphaFold

chat_bubble_outline 9

2026年6月15日
SGPU问题

chat_bubble_outline 5

2026年6月15日
不支持opset17吗，镜像都没有好一点的镜像

chat_bubble_outline 3

2026年6月15日