文档—沐曦开发者

• 1. 概述
  • 1.1. 交付内容
• 2. 新增特性及变更
  • 2.1. 配套MXMACA-C500-SDK-2.32.0.6，MXMACA-C500-Driver-2.32.0.6，MXMACA-C500-Pytorch-2.32.0.3
    • 2.1.1. mxc500-megatron-lm-2.32.0.5
    • 2.1.2. mxc500-paddle-2.32.0.5
    • 2.1.3. mxc500-bitsandbytes-2.32.0.5
    • 2.1.4. mxc500-ray-2.32.0.7
    • 2.1.5. mxc500-vllm-2.32.0.11
    • 2.1.6. mxc500-modelzoo.llm.vllm-2.32.0.11
    • 2.1.7. mxc500-modelzoo.llm.diffusers-2.32.0.6
    • 2.1.8. mxc500-onnxruntime-2.32.0.6
    • 2.1.9. mxc500-modelzoo.cnn.inference-2.32.0.6
    • 2.1.10. mxc500-sglang-2.32.0.10
  • 2.2. 配套MXMACA-C500-SDK-2.31.0.6，MXMACA-C500-Driver-2.31.0.6，MXMACA-C500-Pytorch-2.31.0.4
    • 2.2.1. mxc500-deepspeed-2.31.0.3
    • 2.2.2. mxc500-colossalai-2.31.0.4
    • 2.2.3. mxc500-megatron-lm-2.31.0.3
    • 2.2.4. mxc500-triton-inference-server-2.31.0.3
  • 2.3. 配套MXMACA-C500-SDK-2.29.0.19，MXMACA-C500-Driver-2.29.0.13，MXMACA-C500-Pytorch-2.29.0.4
    • 2.3.1. mxc500-cv-cuda-2.29.0.6
    • 2.3.2. mxc500-xtuner-2.29.0.7
    • 2.3.3. mxc500-vllm-2.29.0.6
    • 2.3.4. mxc500-modelzoo.llm.vllm-2.29.0.8
    • 2.3.5. mxc500-modelzoo.llm.diffusers-2.29.0.6
    • 2.3.6. mxc500-megatron-lm-2.29.0.7
    • 2.3.7. mxc500-modelzoo.llm.transformers-2.29.0.7
  • 2.4. 配套MXMACA-C500-SDK-2.27.0.11，MXMACA-C500-Driver-2.27.0.11，MXMACA-C500-Pytorch-2.27.0.8
    • 2.4.1. mxc500-vllm-2.27.0.9
    • 2.4.2. mxc500-modelzoo.llm.vllm-2.27.0.9
    • 2.4.3. mxc500-modelzoo.llm.diffusers-2.27.0.8
    • 2.4.4. mxc500-deepspeed-2.27.0.10
    • 2.4.5. mxc500-modelzoo.cnn.inference-2.27.0.10
    • 2.4.6. mxc500-onnxruntime-2.27.0.8
    • 2.4.7. mxc500-modelzoo.cnn.training-2.27.0.7
  • 2.5. 配套MXMACA-C500-SDK-2.25.2.9，MXMACA-C500-Driver-2.25.2.8，MXMACA-C500-Pytorch-2.25.2.8
    • 2.5.1. mxc500-ppl.llm.serving-2.25.2.10
    • 2.5.2. mxc500-modelzoo.llm.ppl-2.25.2.10
    • 2.5.3. mxc500-vllm-2.25.2.12
    • 2.5.4. mxc500-modelzoo.llm.vllm-2.25.2.12
    • 2.5.5. mxc500-triton-inference-server-2.25.2.10
    • 2.5.6. mxc500-mmcv-2.25.2.10
    • 2.5.7. mxc500-modelzoo.llm.diffusers-2.25.2.11
    • 2.5.8. mxc500-modelzoo.cnn.inference-2.25.2.12
    • 2.5.9. mxc500-onnxruntime-2.25.2.11
    • 2.5.10. mxc500-modelzoo.cnn.training-2.25.2.10
  • 2.6. 配套MXMACA-C500-SDK-2.25.0.7，MXMACA-C500-Driver-2.25.0.3，MXMACA-C500-Pytorch-2.25.0.0
    • 2.6.1. mxc500-ppl.llm.serving-2.25.0.5
    • 2.6.2. mxc500-modelzoo.llm.ppl-2.25.0.5
    • 2.6.3. mxc500-vllm-2.25.0.6
    • 2.6.4. mxc500-modelzoo.llm.vllm-2.25.0.6
  • 2.7. 配套MXMACA-C500-SDK-2.24.0.12，MXMACA-C500-Driver-2.24.0.10，MXMACA-C500-Pytorch-2.24.0.5
    • 2.7.1. mxc500-megatron-lm-2.24.0.4
    • 2.7.2. mxc500-modelzoo.llm.ppl-2.24.0.4
    • 2.7.3. mxc500-ppl.llm.serving-2.24.0.4
    • 2.7.4. mxc500-vllm-2.24.0.4
    • 2.7.5. mxc500-modelzoo.llm.vllm-2.24.0.4
    • 2.7.6. mxc500-alpaca-lora-2.24.0.4
    • 2.7.7. mxc500-paddle-2.24.0.5
    • 2.7.8. mxc500-internlm-2.24.0.4
  • 2.8. 配套MXMACA-C500-SDK-2.23.0.1018，MXMACA-C500-Driver-2.23.0.1014，MXMACA-C500-Pytorch-2.23.0.1011
    • 2.8.1. mxc500-onnxruntime-2.23.0.3
    • 2.8.2. mxc500-ppl.llm.serving-2.23.0.3
    • 2.8.3. mxc500-modelzoo.llm.ppl-2.23.0.3
    • 2.8.4. mxc500-vllm-2.23.0.3
    • 2.8.5. mxc500-modelzoo.llm.vllm-2.23.0.1
    • 2.8.6. mxc500-internlm-2.23.0.1
    • 2.8.7. mxc500-modelzoo.llm.diffusers-2.23.0.1
    • 2.8.8. mxc500-paddle-2.23.0.1
    • 2.8.9. mxc500-modelzoo.cnn.training-2.23.0.1
  • 2.9. 配套MXMACA-C500-2.22.0.9 amd64和MXMACA-C500-2.22.0.11 arm64
    • 2.9.1. mxc500-onnxruntime-2.22.0.9.318/mxc500-onnxruntime-ft2000-2.22.0.11.159
    • 2.9.2. mxc500-megatron-lm-2.22.0.9.306
    • 2.9.3. mxc500-ppl.llm.serving-2.22.0.9.311/mxc500-ppl.llm.serving-ft2000-2.22.0.11.168
    • 2.9.4. mxc500-modelzoo.llm.ppl-2.22.0.9.118
    • 2.9.5. mxc500-vllm-2.22.0.9.186
    • 2.9.6. mxc500-modelzoo.llm.vllm-2.22.0.9.122
    • 2.9.7. mxc500-internlm-2.22.0.9.33
    • 2.9.8. mxc500-modelzoo.llm.diffusers-2.22.0.9.120
    • 2.9.9. mxc500-modelzoo.llm.transformers-2.22.0.9.115
    • 2.9.10. mxc500-modelzoo.cnn.training-2.22.0.9.61
    • 2.9.11. mxc500-modelzoo.cnn.inference-2.22.0.9.120
    • 2.9.12. mxc500-bitsandbytes-2.22.0.9.150
  • 2.10. 配套MXMACA-C500-2.20.2.19
    • 2.10.1. mxc500-onnxruntime-2.20.2.18.238
    • 2.10.2. mxc500-megatron-lm-2.20.2.2.141
    • 2.10.3. mxc500-ppl.llm.serving-2.20.2.18.236
    • 2.10.4. mxc500-colossalai-2.20.2.2.91
    • 2.10.5. mxc500-vllm-2.20.2.19.147
  • 2.11. 配套MXMACA-C500-2.19.2.23
    • 2.11.1. mxc500-onnxruntime-2.19.2.23.111
    • 2.11.2. mxc500-ppl.llm.serving-2.19.2.23.111
  • 2.12. 配套MXMACA-C500-2.19.2.7
    • 2.12.1. mxc500-onnxruntime-2.19.2.5.65
    • 2.12.2. mxc500-ppl.llm.serving-2.19.2.7.66
  • 2.13. 配套MXMACA-C500-2.19.0.12
    • 2.13.1. mxc500-onnxruntime-2.19.0.12.40
    • 2.13.2. mxc500-ppl.llm.serving-2.19.0.12.43
  • 2.14. 配套MXMACA-C500-2.18.0.4
  • 2.15. 配套MXMACA-C500-2.17.3.11
    • 2.15.1. mxc500-onnxruntime-2.17.3-0
    • 2.15.2. mxc500-deepspeed-2.17.3.11.76
    • 2.15.3. mxc500-megatron-lm-2.17.3.11.35
    • 2.15.4. mxc500-paddle-2.17.3.9.111
    • 2.15.5. mxc500-ppl.llm.serving-2.17.3.11.58
  • 2.16. MXC500-ONNXRUNTIME-2.16.1-3
  • 2.17. MXC500-ONNXRUNTIME-2.15.0-4
• 3. 已知问题和使用限制