-
Q:请教一下GLM/deepseek/Qwen近两个月内的模型支持
A:首先到MIM模型中心 查,如果没有,请使用使用sglang最新镜像
镜像启动命令 & 容器内启动命令参考:SGLang-MetaX 快速开始 -
Q: 社区有多个版本的镜像:基础镜像、MIM镜像、PD分离镜像,推荐用哪个?
A:如果有指定模型,使用MIM模型中心的 Model-specific MIM 镜像,否则,我们推荐使用 Model-free MIM 镜像 -
Q:没有最新的arm64架构下的软件、镜像吗?
A:arm的driver、sdk、镜像均受限发布,仅限商务渠道释放,请通过GPU购买商务渠道获取 -
Q:如何基于沐曦的卡进行XXX模型的部署?我在社区找不到部署说明
A:暂未发布的资源,请通过GPU购买商务渠道获取资源。 -
Q: C500是否有类似nvidia encode decode support matrix这样的编解码能力支持矩阵
A: 视频编解码VPU编程指南 中有提供