我是沐曦的C500显卡, 有一堆,用的k8s + volcano管理的。
想跑个新点的开源模型是真的难啊, 要等你们官方的vllm-metax镜像,基本要等两个月。。。
谁能把这个事情说清楚啊, maca, mcoplib, pytorch, metax-vllm这些版本的依赖关系啊。。。
性能也跑不满, 跟上新的模型也跟不上。
比如,你们发布了 vllm-metax:0.15.0-maca.ai3.5.3.203-torch2.8-py312-ubuntu22.04-amd64, 集群上node全是 MACA Version: 3.3.x版本的,能跑不?
mx-smi version: 2.2.9
=================== MetaX System Management Interface Log ===================
Timestamp : Wed Apr 8 16:22:30 2026
Attached GPUs : 16
+---------------------------------------------------------------------------------+
| MX-SMI 2.2.9 Kernel Mode Driver Version: 3.4.4 |
| MACA Version: 3.3.0.15 BIOS Version: 1.30.0.0