MetaX-Tech Developer Forum 论坛首页
  • 沐曦开发者
search
Sign in

LiuWei

  • Members
  • Joined 2026年5月27日
  • message 帖子
  • forum 主题
  • favorite 关注者
  • favorite_border Follows
  • person_outline 详细信息

LiuWei has started 2 threads.

  • See post chevron_right
    LiuWei
    Members
    宿主机上安装完vllm-metax后,如何安装官方的vllm 解决中 2026年5月27日 09:43

    1、我宿主机的操作系统是kylin v10 sp3
    2、我的显卡是沐曦的曦云c500
    3、我已经安装了vllm-metax-0.19.0
    4、官方的vllm:vllm-0.19.0-cp38-abi3-manylinux_2_31_x86_64.whl中,2_31表示glibc >=2.31,但是我这边宿主机的操作系统是kylin v10 sp3,它的glibc默认是2.28版本,结论就是直接安装whl安装不了。而且强行升级glibc版本风险比较大,所以我需要在服务器编译安装官方的vllm
    5、我如何在上述环境中编译安装官方的vllm呢?我看了:github.com/MetaX-MACA/vLLM-metax、https://github.com/vllm-project/vllm,但是不知道具体怎么编译安装,因为官方的vllm安装里,没有沐曦显卡的安装选项,急求,谢谢。

  • 沐曦开发者论坛
powered by misago