曦云系列通用GPU AI应用发布说明
1. 概述
1.1. 交付内容
2. 新增特性及变更
2.1. 配套MXMACA-Driver-3.2.1.12,MXMACA-SDK-3.2.1.10,MXMACA-Pytorch-3.2.1.3
2.1.1. maca-vllm-3.2.1.7
2.1.2. maca-modelzoo.llm.vllm-3.2.1.8
2.1.3. maca-sglang-3.2.1.8
2.1.4. maca-modelzoo.llm.sglang-3.2.1.8
2.1.5. maca-ms-swift-3.2.1.6
2.2. 配套MXMACA-C500-Driver-3.1.0.11,MXMACA-C500-SDK-3.1.0.14,MXMACA-C500-Pytorch-3.1.0.4
2.2.1. mxc500-modelzoo.llm.diffusers-3.1.0.5
2.2.2. mxc500-ms-swift-3.1.0.6
2.2.3. mxc500-verl-3.1.0.5
2.2.4. mxc500-megatron-lm-3.1.0.7
2.2.5. mxc500-sglang-3.1.0.8
2.2.6. mxc500-modelzoo.llm.sglang-3.1.0.9
2.3. 配套MXMACA-C500-Driver-3.0.0.5,MXMACA-C500-SDK-3.0.0.8,MXMACA-C500-Pytorch-3.0.0.3
2.3.1. mxc500-modelzoo.cnn.training-3.0.0.5
2.3.2. mxc500-mmcv-3.0.0.5
2.3.3. mxc500-megatron-lm-3.0.0.5
2.3.4. mxc500-colossalai-3.0.0.6
2.3.5. mxc500-vllm-3.0.0.5
2.3.6. mxc500-modelzoo.llm.vllm-3.0.0.5
2.3.7. mxc500-deepspeed-3.0.0.5
2.3.8. mxc500-modelzoo.cnn.inference-3.0.0.5
2.4. 配套MXMACA-C500-Driver-2.33.0.9,MXMACA-C500-SDK-2.33.0.12,MXMACA-C500-Pytorch-2.33.0.5
2.4.1. mxc500-deepspeed-2.33.0.11
2.4.2. mxc500-internlm-2.33.0.12
2.4.3. mxc500-modelzoo.cnn.training-2.33.0.11
2.4.4. mxc500-megatron-lm-2.33.0.11
2.5. 配套MXMACA-C500-Driver-2.32.0.6,MXMACA-C500-SDK-2.32.0.6,MXMACA-C500-Pytorch-2.32.0.3
2.5.1. mxc500-megatron-lm-2.32.0.5
2.5.2. mxc500-paddle-2.32.0.5
2.5.3. mxc500-bitsandbytes-2.32.0.5
2.5.4. mxc500-ray-2.32.0.7
2.5.5. mxc500-vllm-2.32.0.11
2.5.6. mxc500-modelzoo.llm.vllm-2.32.0.11
2.5.7. mxc500-modelzoo.llm.diffusers-2.32.0.6
2.5.8. mxc500-onnxruntime-2.32.0.6
2.5.9. mxc500-modelzoo.cnn.inference-2.32.0.6
2.5.10. mxc500-sglang-2.32.0.10
2.6. 配套MXMACA-C500-SDK-2.31.0.6,MXMACA-C500-Driver-2.31.0.6,MXMACA-C500-Pytorch-2.31.0.4
2.6.1. mxc500-deepspeed-2.31.0.3
2.6.2. mxc500-colossalai-2.31.0.4
2.6.3. mxc500-megatron-lm-2.31.0.3
2.6.4. mxc500-triton-inference-server-2.31.0.3
2.7. 配套MXMACA-C500-Driver-2.29.0.13,MXMACA-C500-SDK-2.29.0.19,MXMACA-C500-Pytorch-2.29.0.4
2.7.1. mxc500-cv-cuda-2.29.0.6
2.7.2. mxc500-xtuner-2.29.0.7
2.7.3. mxc500-vllm-2.29.0.6
2.7.4. mxc500-modelzoo.llm.vllm-2.29.0.8
2.7.5. mxc500-modelzoo.llm.diffusers-2.29.0.6
2.7.6. mxc500-megatron-lm-2.29.0.7
2.7.7. mxc500-modelzoo.llm.transformers-2.29.0.7
2.8. 配套MXMACA-C500-Driver-2.27.0.11,MXMACA-C500-SDK-2.27.0.11,MXMACA-C500-Pytorch-2.27.0.8
2.8.1. mxc500-vllm-2.27.0.9
2.8.2. mxc500-modelzoo.llm.vllm-2.27.0.9
2.8.3. mxc500-modelzoo.llm.diffusers-2.27.0.8
2.8.4. mxc500-deepspeed-2.27.0.10
2.8.5. mxc500-modelzoo.cnn.inference-2.27.0.10
2.8.6. mxc500-onnxruntime-2.27.0.8
2.8.7. mxc500-modelzoo.cnn.training-2.27.0.7
2.9. 配套MXMACA-C500-Driver-2.25.2.8,MXMACA-C500-SDK-2.25.2.9,MXMACA-C500-Pytorch-2.25.2.8
2.9.1. mxc500-ppl.llm.serving-2.25.2.10
2.9.2. mxc500-modelzoo.llm.ppl-2.25.2.10
2.9.3. mxc500-vllm-2.25.2.12
2.9.4. mxc500-modelzoo.llm.vllm-2.25.2.12
2.9.5. mxc500-triton-inference-server-2.25.2.10
2.9.6. mxc500-mmcv-2.25.2.10
2.9.7. mxc500-modelzoo.llm.diffusers-2.25.2.11
2.9.8. mxc500-modelzoo.cnn.inference-2.25.2.12
2.9.9. mxc500-onnxruntime-2.25.2.11
2.9.10. mxc500-modelzoo.cnn.training-2.25.2.10
2.10. 配套MXMACA-C500-Driver-2.25.0.3,MXMACA-C500-SDK-2.25.0.7,MXMACA-C500-Pytorch-2.25.0.0
2.10.1. mxc500-ppl.llm.serving-2.25.0.5
2.10.2. mxc500-modelzoo.llm.ppl-2.25.0.5
2.10.3. mxc500-vllm-2.25.0.6
2.10.4. mxc500-modelzoo.llm.vllm-2.25.0.6
2.11. 配套MXMACA-C500-Driver-2.24.0.10,MXMACA-C500-SDK-2.24.0.12,MXMACA-C500-Pytorch-2.24.0.5
2.11.1. mxc500-megatron-lm-2.24.0.4
2.11.2. mxc500-modelzoo.llm.ppl-2.24.0.4
2.11.3. mxc500-ppl.llm.serving-2.24.0.4
2.11.4. mxc500-vllm-2.24.0.4
2.11.5. mxc500-modelzoo.llm.vllm-2.24.0.4
2.11.6. mxc500-alpaca-lora-2.24.0.4
2.11.7. mxc500-paddle-2.24.0.5
2.11.8. mxc500-internlm-2.24.0.4
2.11.9. mxc500-modelzoo.llm.diffusers-2.24.0.6
2.12. 配套MXMACA-C500-Driver-2.23.0.1014,MXMACA-C500-SDK-2.23.0.1018,MXMACA-C500-Pytorch-2.23.0.1011
2.12.1. mxc500-onnxruntime-2.23.0.3
2.12.2. mxc500-ppl.llm.serving-2.23.0.3
2.12.3. mxc500-modelzoo.llm.ppl-2.23.0.3
2.12.4. mxc500-vllm-2.23.0.3
2.12.5. mxc500-modelzoo.llm.vllm-2.23.0.1
2.12.6. mxc500-internlm-2.23.0.1
2.12.7. mxc500-modelzoo.llm.diffusers-2.23.0.1
2.12.8. mxc500-paddle-2.23.0.1
2.12.9. mxc500-modelzoo.cnn.training-2.23.0.1
2.13. 配套MXMACA-C500-2.22.0.9 amd64和MXMACA-C500-2.22.0.11 arm64
2.13.1. mxc500-onnxruntime-2.22.0.9.318/mxc500-onnxruntime-ft2000-2.22.0.11.159
2.13.2. mxc500-megatron-lm-2.22.0.9.306
2.13.3. mxc500-ppl.llm.serving-2.22.0.9.311/mxc500-ppl.llm.serving-ft2000-2.22.0.11.168
2.13.4. mxc500-modelzoo.llm.ppl-2.22.0.9.118
2.13.5. mxc500-vllm-2.22.0.9.186
2.13.6. mxc500-modelzoo.llm.vllm-2.22.0.9.122
2.13.7. mxc500-internlm-2.22.0.9.33
2.13.8. mxc500-modelzoo.llm.diffusers-2.22.0.9.120
2.13.9. mxc500-modelzoo.llm.transformers-2.22.0.9.115
2.13.10. mxc500-modelzoo.cnn.training-2.22.0.9.61
2.13.11. mxc500-modelzoo.cnn.inference-2.22.0.9.120
2.13.12. mxc500-bitsandbytes-2.22.0.9.150
2.14. 配套MXMACA-C500-2.20.2.19
2.14.1. mxc500-onnxruntime-2.20.2.18.238
2.14.2. mxc500-megatron-lm-2.20.2.2.141
2.14.3. mxc500-ppl.llm.serving-2.20.2.18.236
2.14.4. mxc500-colossalai-2.20.2.2.91
2.14.5. mxc500-vllm-2.20.2.19.147
2.15. 配套MXMACA-C500-2.19.2.23
2.15.1. mxc500-onnxruntime-2.19.2.23.111
2.15.2. mxc500-ppl.llm.serving-2.19.2.23.111
2.16. 配套MXMACA-C500-2.19.2.7
2.16.1. mxc500-onnxruntime-2.19.2.5.65
2.16.2. mxc500-ppl.llm.serving-2.19.2.7.66
2.17. 配套MXMACA-C500-2.19.0.12
2.17.1. mxc500-onnxruntime-2.19.0.12.40
2.17.2. mxc500-ppl.llm.serving-2.19.0.12.43
2.18. 配套MXMACA-C500-2.18.0.4
2.19. 配套MXMACA-C500-2.17.3.11
2.19.1. mxc500-onnxruntime-2.17.3-0
2.19.2. mxc500-deepspeed-2.17.3.11.76
2.19.3. mxc500-megatron-lm-2.17.3.11.35
2.19.4. mxc500-paddle-2.17.3.9.111
2.19.5. mxc500-ppl.llm.serving-2.17.3.11.58
2.20. MXC500-ONNXRUNTIME-2.16.1-3
2.21. MXC500-ONNXRUNTIME-2.15.0-4
3. 已知问题和使用限制
曦云系列通用GPU AI应用发布说明
搜索
请启用 JavaScript 以便使用搜索功能