MetaX-Tech Developer Forum 论坛首页
  • 沐曦开发者
search
Sign in
  • chevron_right Threads
  • label 产品&运维
  • label 解决中

maca, metax-vllm, mcoplib, pytorch 版本问题

nuuuuuuke
2026年4月8日
chat_bubble_outline 1
  • link
    nuuuuuuke
    Members 2 posts
    2026年4月8日 16:29 2026年4月8日 16:29
    link

    我是沐曦的C500显卡, 有一堆,用的k8s + volcano管理的。
    想跑个新点的开源模型是真的难啊, 要等你们官方的vllm-metax镜像,基本要等两个月。。。
    谁能把这个事情说清楚啊, maca, mcoplib, pytorch, metax-vllm这些版本的依赖关系啊。。。
    性能也跑不满, 跟上新的模型也跟不上。

    比如,你们发布了 vllm-metax:0.15.0-maca.ai3.5.3.203-torch2.8-py312-ubuntu22.04-amd64, 集群上node全是 MACA Version: 3.3.x版本的,能跑不?

    mx-smi version: 2.2.9

    =================== MetaX System Management Interface Log ===================
    Timestamp : Wed Apr 8 16:22:30 2026

    Attached GPUs : 16
    +---------------------------------------------------------------------------------+
    | MX-SMI 2.2.9 Kernel Mode Driver Version: 3.4.4 |
    | MACA Version: 3.3.0.15 BIOS Version: 1.30.0.0

  • arrow_forward

    Thread has been moved from 产品&运维.

    • By shuai_chen on 2026年4月8日 16:47.
  • link
    shuai_chen
    Members 314 posts
    2026年4月8日 18:22 2026年4月8日 18:22
    link

    尊敬的开发者您好,问题回复如下
    Q1:想跑个新点的开源模型是真的难啊, 要等你们官方的vllm-metax镜像,基本要等两个月。。。
    A1:由于官方的vllm-metax镜像需要进行质量测试,发布周期较慢。若需跑新开源的模型,请参考github.com/MetaX-MACA/vLLM-metax Readme文档或联系商务接口人申请新开源模型POC镜像
    Q2:谁能把这个事情说清楚啊, maca, mcoplib, pytorch, metax-vllm这些版本的依赖关系啊。。。
    A2:请参考github.com/MetaX-MACA/vLLM-metax Readme文档以及相关python依赖库文件,有详细的版本依赖关系
    Q3:性能也跑不满, 跟上新的模型也跟不上。
    A3:由于官方的vllm-metax镜像需要进行质量测试,发布周期较慢。请参考developer.metax-tech.com/forum/t/fa-tie-qian-bi-kan-jing-xiang-shi-yong-wen-ti-ti-wen-mo-ban/267/ 提供您的运行细节,便于定位性能问题。
    Q4:比如,你们发布了 vllm-metax:0.15.0-maca.ai3.5.3.203-torch2.8-py312-ubuntu22.04-amd64, 集群上node全是 MACA Version: 3.3.x版本的,能跑不?
    A4:MACA版本向下兼容可以运行

arrow_upward Go to top
  • 沐曦开发者论坛
powered by misago