曦云系列通用计算GPU AI应用发布说明
1. 概述
1.1. 交付内容
2. 新增特性及变更
2.1. 配套MXMACA-C500-Driver-2.33.1.11，MXMACA-C500-SDK-2.33.1.19，MXMACA-C500-Pytorch-2.33.1.14
2.1.1. mxc500-sglang-2.33.1.21
2.2. 配套MXMACA-C500-Driver-2.33.1.6，MXMACA-C500-SDK-2.33.1.13，MXMACA-C500-Pytorch-2.33.1.7
2.2.1. mxc500-vllm-2.33.1.12
2.2.2. mxc500-modelzoo.llm.vllm-2.33.1.12
2.3. 配套MXMACA-C500-Driver-2.33.1.6，MXMACA-C500-SDK-2.33.1.15，MXMACA-C500-Pytorch-2.33.1.8
2.3.1. mxc500-sglang-2.33.1.7
2.4. 配套MXMACA-C500-SDK-2.29.2.7，MXMACA-C500-Driver-2.29.2.5，MXMACA-C500-Pytorch-2.29.2.6
2.4.1. mxc500-vllm-2.29.2.9
2.4.2. mxc500-modelzoo.llm.vllm-2.29.2.9
2.5. 配套MXMACA-C500-Driver-2.25.0.3，MXMACA-C500-SDK-2.25.0.7，MXMACA-C500-Pytorch-2.25.0.0
2.5.1. mxc500-ppl.llm.serving-2.25.0.5
2.5.2. mxc500-modelzoo.llm.ppl-2.25.0.5
2.5.3. mxc500-vllm-2.25.0.6
2.5.4. mxc500-modelzoo.llm.vllm-2.25.0.6
3. 已知问题和使用限制
曦云系列通用计算GPU AI应用发布说明
3.
已知问题和使用限制
上一页
3.
已知问题和使用限制
模块
问题和限制说明
vLLM
个别case性能值偏低
SGLang
个别case C500较C550性能及精度偏低
个别模型ceval测试期间会有timeout