使用两台8卡C500部署glm,采用了vllm=0.19版本的镜像部署glm5.1出现transformers版本过低问题,按照官网要求升级transformers,出现下图中的错误。然后按要求安装对应包显示的已安装,但再次部署依旧提报图片中的问题。然后我采用sglang=5.9版本的镜像进行部署,也会出现上述问题。是否是部署框架与transformers不兼容。
使用两台8卡C500部署glm,采用了vllm=0.19版本的镜像部署glm5.1出现transformers版本过低问题,按照官网要求升级transformers,出现下图中的错误。然后按要求安装对应包显示的已安装,但再次部署依旧提报图片中的问题。然后我采用sglang=5.9版本的镜像进行部署,也会出现上述问题。是否是部署框架与transformers不兼容。
尊敬的开发者您好,请参考developer.metax-tech.com/forum/t/fa-tie-qian-bi-kan-jing-xiang-shi-yong-wen-ti-ti-wen-mo-ban/267/ 详细描述您的操作步骤以及详细日志