部署环境为:沐曦C500 8卡服务器*2、CPU-海光7490
运行环境:GPUStack V2.1.2 docker
模型为:Qwen3.5-235B-a8w8
模型运行镜像为:gpustack/runner:maca3.5-vllm0.14.0
在使用gpustack控制台手动设置运行节点的显卡为第2张卡时,报错了。
信息为如图所示,怀疑是在获取GPU Index时报错了。
部署环境为:沐曦C500 8卡服务器*2、CPU-海光7490
运行环境:GPUStack V2.1.2 docker
模型为:Qwen3.5-235B-a8w8
模型运行镜像为:gpustack/runner:maca3.5-vllm0.14.0
在使用gpustack控制台手动设置运行节点的显卡为第2张卡时,报错了。
信息为如图所示,怀疑是在获取GPU Index时报错了。