需要vllm-metax:0.12.0-maca.ai3.3.0.204-torch2.8-py310-kylinv11-amd64
需要vllm-metax:0.12.0-maca.ai3.3.0.204-torch2.8-py310-kylinv11-amd64
您好,请问是如何解决的啊?我是单卡c500,64g显存,尝试了sgpu分割成两块,然后在其中一块sgpu上跑qwen3_8B,能启动成功,但是测试模型输出要不是没有内容,要不就是几个汉字,跪求大佬解答
需要vllm-metax:0.15.0-maca.ai3.5.3.203-torch2.8-py310-kylinv11-amd64镜像离线包导出。