MetaX-Tech Developer Forum 论坛首页
  • 沐曦开发者
search
Sign in
  • chevron_right Threads
  • label 产品&运维
  • label 解决中

GLM5.1-W8A8部署问题

yzr_nbk
2026年5月19日
chat_bubble_outline 1
  • link
    yzr_nbk
    Members 6 posts
    2026年5月19日 18:11 2026年5月19日 18:11
    link

    使用两台8卡C500部署glm,采用了vllm=0.19版本的镜像部署glm5.1出现transformers版本过低问题,按照官网要求升级transformers,出现下图中的错误。然后按要求安装对应包显示的已安装,但再次部署依旧提报图片中的问题。然后我采用sglang=5.9版本的镜像进行部署,也会出现上述问题。是否是部署框架与transformers不兼容。

    图片.png

    PNG, 124.7 KB, uploaded by yzr_nbk on 2026年5月19日.

  • arrow_forward

    Thread has been moved from 产品&运维.

    • By shuai_chen on 2026年5月20日 11:37.
  • link
    shuai_chen
    Members 458 posts
    2026年5月20日 11:41 2026年5月20日 11:41
    link

    尊敬的开发者您好,请参考developer.metax-tech.com/forum/t/fa-tie-qian-bi-kan-jing-xiang-shi-yong-wen-ti-ti-wen-mo-ban/267/ 详细描述您的操作步骤以及详细日志

arrow_upward Go to top
  • 沐曦开发者论坛
powered by misago