shuai_chen

尊敬的开发者您好，请参考gitee.com/metax-maca/vllm-metax-guide

尊敬的开发者您好，同vllm社区，参考docs.vllm.ai/en/v0.27.0/cli/serve/

尊敬的开发者您好，支持

尊敬的开发者您好，请通过GPU购买商务渠道获取适配的镜像。

尊敬的开发者您好，请等待近期镜像更新。若需申请POC镜像，请通过GPU购买商务渠道获取。

尊敬的开发者您好，等待后续镜像支持

尊敬的开发者您好，等待后续镜像中心更新。若需申请POC镜像，请通过GPU购买商务渠道获取。

尊敬的开发者您好，不支持

尊敬的开发者您好，等待镜像中心后续镜像支持。若需申请POC镜像，请通过GPU购买商务渠道获取。

尊敬的开发者您好，dflash等待后续支持，使用MTP投机解码加速，单卡加速取决于投机解码接受率。

尊敬的开发者您好，已生成，点击developer.metax-tech.com/softnova/docker?chip_name=%E6%9B%A6%E4%BA%91C500%E7%B3%BB%E5%88%97&package_name=vllm-metax:0.26.0-maca.ai3.8.2.208-torch2.10-py312-ubuntu22.04-amd64

尊敬的开发者您好，更改GPU MaxPayload/ MaxReadReq，请通过GPU购买商务渠道咨询。

尊敬的开发者您好，
1.支持16张卡
2.请参考developer.metax-tech.com/forum/t/fa-tie-qian-bi-kan-jing-xiang-shi-yong-wen-ti-ti-wen-mo-ban/267/ 给出详细信息

尊敬的开发者您好，请联系GPU购买商务渠道申请解决。

尊敬的开发者您好，请服务器断电，重新插拔GPU。

尊敬的开发者您好，请通过GPU购买商务渠道咨询此问题。MPS / MRRS出厂已调至最优。

尊敬的开发者您好，参考github.com/llm-d/llm-d/commit/fbd7877e72716892bdc412b96adc5069dc7d1aa5

尊敬的开发者您好，sglang 0.5.14支持ds v4 0731部署，dspark可用，命令参考

sglang serve \
  --trust-remote-code \
  --model-path metax-tech/DeepSeek-V4-Flash-0731-W8A8 \
  --tp 8 \
  --speculative-algorithm DSPARK \
  --mem-fraction-static 0.90 \
  --host 0.0.0.0 \
  --port 30000