您好,近日看到有发文显示GLM-5和Qwen3.5系列大模型可以沐曦曦云C500 GPU上运行,请问应该用什么推理软件?因为我看当前提供的arm版vLLM还是0.11版本,不支持运行这两个系列的模型
您好,近日看到有发文显示GLM-5和Qwen3.5系列大模型可以沐曦曦云C500 GPU上运行,请问应该用什么推理软件?因为我看当前提供的arm版vLLM还是0.11版本,不支持运行这两个系列的模型
尊敬的开发者您好,请您开启个人主题,提供贵司名称以及项目信息
您好,我是Huawei公司的,目前在对曦云C500 GPU进行性能验证。
尊敬的开发者您好,arm镜像需要审批获取,请联系商务接口人进行审批