MetaX-Tech Developer Forum 论坛首页
  • 沐曦开发者
search
Sign in
  • chevron_right Threads
  • label 产品&运维
  • label 已解决

maca-vllm与maca-pytorch匹配的问题

Sarahta
2026年4月13日
chat_bubble_outline 5
  • link
    Sarahta
    Members 5 posts
    2026年4月13日 16:34 2026年4月13日 16:34
    link

    我在官网网站上下载了maca-vllm-metax-0.14.0-py310-3.5.3.102-linux-x86_64.tar.xz与配套推荐maca-pytorch2.8-py310-3.5.3.9-x86_64.tar.xz、
    maca-pytorch2.6-py310-3.5.3.9-x86_64.tar.xz、maca-pytorch2.4-py310-3.5.3.9-x86_64.tar.xz进行了测试发现了一个问题,如图。0.0.22+metax3.5.3.9torch2.8 requires setuptools==69.5.1,而lmcache 0.3.12+maca3.5.3.102 requires setuptools<81.0.0,>=77.0.3,这里的setuptools版本明显是冲突的,这个问题有关系嘛?

    微信图片_20260413162054_34_13.png

    PNG, 100.5 KB, uploaded by Sarahta on 2026年4月13日.

  • arrow_forward

    Thread has been moved from 公共.

    • By shuai_chen on 2026年4月13日 16:35.
  • link
    shuai_chen
    Members 384 posts
    2026年4月13日 17:18 2026年4月13日 17:18
    link

    尊敬的开发者您好,vllm metax没有使用xformers

  • link
    Sarahta
    Members 5 posts
    2026年4月14日 09:54 2026年4月14日 09:54
    link

    xformers在配套推荐maca-pytorch2.8-py310-3.5.3.9-x86_64.tar.xz的压缩包里面啊,也包括2.4和2.6里,xformers用不上嘛?

  • link
    shuai_chen
    Members 384 posts
    2026年4月14日 09:56 2026年4月14日 09:56
    link

    尊敬的开发者您好,请根据需求选用

  • link
    Sarahta
    Members 5 posts
    2026年4月15日 10:28 2026年4月15日 10:28
    link

    您的意思这两个库是可选的是吧,我这边得选vllm来跑千问,但是跑不起来,import vllm的时候说没有库,我装的是这两个版本maca-vllm-metax-0.15.0-py310-3.5.3.203-linux-x86_64.tar.xz、maca-vllm-metax-0.14.0-py310-3.5.3.102-linux-x86_64.tar.xz

    微信图片_20260414103515_337_588.png

    PNG, 23.8 KB, uploaded by Sarahta on 2026年4月15日.

    微信图片_20260414103445_334_588.png

    PNG, 61.0 KB, uploaded by Sarahta on 2026年4月15日.

    微信图片_20260414103452_336_588.png

    PNG, 17.3 KB, uploaded by Sarahta on 2026年4月15日.

  • link
    shuai_chen
    Members 384 posts
    2026年4月15日 10:29 2026年4月15日 10:29
    link

    尊敬的开发者您好,请使用vllm-metax镜像

  • arrow_forward

    Thread has been moved from 解决中.

    • By shuai_chen on 2026年4月23日 15:09.
arrow_upward Go to top
  • 沐曦开发者论坛
powered by misago