2. 新增特性及变更

本章列出历次发布的新增特性及变更。

2.1. Metax-Driver-3.8.0.10，MXMACA-SDK-3.8.0.23，MXMACA-Pytorch-3.8.0.7，MXMACA-Iree-3.8.0.0，MXMACA-JAX-3.8.0.0，MXMACA-TileLang-3.8.0.1，MXMACA-SDK-Python-3.8.0.8，MXMACA-MXRDMA-3.8.0.0

2.1.1. maca-vllm-metax-3.8.0.5

模块	特性说明
vllm-metax	发布社区版本0.22.0
	Pytorch版本升级为2.10
	默认安装 Imcache0.4.6

2.1.2. maca-modelzoo.llm.vllm-3.8.0.3

模块	特性说明
modelzoo.llm.vllm	发布社区版本0.22.0
	Pytorch版本升级为2.10
	默认安装 Imcache0.4.6

2.1.3. maca-paddle-metax-3.8.0.10

模块	特性说明
paddle-metax	支持官方paddlepaddle3.4的特性和3.5预览版部分特性

2.1.4. maca-modelzoo.llm.diffusers-3.8.0.10

此次发布的软件包仅适配曦云^® C600，曦思^® N300和曦索^® X301、X302产品。

模块	特性说明
modelzoo.llm.diffusers	Diffusers升级到0.37.1
modelzoo.llm.diffusers	FLUX.1-Kontext-dev Qwen-lmage Qwen-lmage-2512 Qwen-lmage-Edit Qwen-lmage-Edit-2509 Qwen-lmage-Edit-2511 hunyuandit hunyuanimage2.1 hunyaunvideo1.5

2.2. 配套Metax-Driver-3.7.1.1， MXMACA-SDK-3.7.1.5， MXMACA-Pytorch-3.7.1.3

2.2.1. maca-sglang-3.7.1.107

模块	特性说明
sglang	适配v0.5.11
sglang	新增Qwen3.6-35B-A3B、Qwen3.6-27B模型

2.2.2. maca-modelzoo.llm.sglang-3.7.1.109

模块	特性说明
modelzoo.llm.sglang	适配v0.5.11
modelzoo.llm.sglang	新增Qwen3.6-35B-A3B、Qwen3.6-27B模型

2.2.3. maca-vllm-metax-3.7.1.106

模块	特性说明
vllm-metax	发布社区版本0.21.0
vllm-metax	默认安装 Imcache0.4.6

2.2.4. maca-modelzoo.llm.vllm-3.7.1.104

模块	特性说明
modelzoo.llm.vllm	发布社区版本0.21.0
modelzoo.llm.vllm	默认安装 Imcache0.4.6

2.3. 配套Metax-Driver-3.7.1.1， MXMACA-SDK-3.7.1.5， MXMACA-Pytorch-3.7.1.3

2.3.1. maca-sglang-3.7.1.12

模块

特性说明

sglang

适配v0.5.10

MXC500系列新增GLM-5.1、GLM-5.1-W8A8、Kimi-K2.6、Kimi-K2.6-W8A8、MiniMax-M2.7-W8A8、MiniMax-M2.7、Mimo-v2-Flash-W8A8和Qwen3.5-397B-A17B模型

MXC600系列新增GLM-5.1-W8A8、Kimi-K2.6、Kimi-K2.6-W8A8、Mimo-v2-Flash-W8A8、MiniMax-M2.7-W8A8、Qwen3.5-397B-W8A8模型

2.3.2. maca-modelzoo.llm.sglang-3.7.1.12

模块

特性说明

modelzoo.llm.sglang

适配v0.5.10

MXC500系列新增GLM-5.1、GLM-5.1-W8A8、Kimi-K2.6、Kimi-K2.6-W8A8、MiniMax-M2.7-W8A8、MiniMax-M2.7、Mimo-v2-Flash-W8A8和Qwen3.5-397B-A17B模型

MXC600系列新增GLM-5.1-W8A8、Kimi-K2.6、Kimi-K2.6-W8A8、Mimo-v2-Flash-W8A8、MiniMax-M2.7-W8A8、Qwen3.5-397B-W8A8模型

2.4. 配套Metax-Driver-3.7.0.23， MXMACA-SDK-3.7.0.38， MXMACA-Pytorch-3.7.0.7

2.4.1. maca-modelzoo.llm.transformers-3.7.0.6

此次发布的软件包仅适配曦云^® C600，曦思^® N300和曦索^® X301、X302产品。

模块	特性说明
modelzoo.llm.transformers	适配v1.0.1

2.4.2. maca-paddle-3.7.0.6

此次发布的软件包仅适配曦云^® C600，曦思^® N300和曦索^® X301、X302产品。

模块	特性说明
paddle	首次发布

2.4.3. maca-cv-cuda-3.7.0.6

此次发布的软件包仅适配曦云^® C600，曦思^® N300和曦索^® X301、X302产品。

模块	特性说明
cv-cuda	首次发布

2.4.4. maca-paddle-metax-3.7.0.6

此次发布的软件包仅适配曦云^® C600，曦思^® N300和曦索^® X301、X302产品。

模块	特性说明
paddle-metax	首次发布，升级3.3.0版本

2.4.5. maca-modelzoo.llm.diffusers-3.7.0.8

此次发布的软件包仅适配曦云^® C600，曦思^® N300和曦索^® X301、X302产品。

模块	特性说明
modelzoo.llm.diffusers	首次发布

2.4.6. maca-vllm-metax-3.7.0.107

此次发布的软件包仅适配曦云^® C500、C500X、C550、C550-PL、C588，曦思^® N260和曦索^® X206产品。

模块	特性说明
vllm-metax	发布社区版本0.20.0
vllm-metax	默认安装 Imcache0.4.4

2.4.7. maca-modelzoo.llm.vllm-3.7.0.107

此次发布的软件包仅适配曦云^® C500、C500X、C550、C550-PL、C588，曦思^® N260和曦索^® X206产品。

模块	特性说明
modelzoo.llm.vllm	发布社区版本0.20.0
modelzoo.llm.vllm	默认安装 Imcache0.4.4

无新增和变更特性，修复reported bug。

2.5. 配套MXMACA-Driver-3.6.0.11，MXMACA-SDK-3.6.0.18，MXMACA-Pytorch-3.6.0.5

此次发布的软件包仅适配曦云^® C600，曦思^® N300和曦索^® X301、X302产品。

2.5.1. maca-sglang-3.6.0.11

模块	特性说明
sglang	适配 v0.5.7

2.5.2. maca-modelzoo.llm.sglang-3.6.0.11

模块	特性说明
modelzoo.llm.sglang	适配 v0.5.7

2.5.3. maca-modelzoo.cnn.inference-3.6.0.11

模块	特性说明
Modelzoo.cnn.inference	支持模型List
	Classification: InceptionV4/MobileNetV3/SqueezeNet_1_1
	Detection: Yolov8s
	NLP_Transformer: BERT-Large/VideoBERT
	Video_enhancement: SRCNN
	OCR: PP-OCRv3_det
	Segmentation: ENet
	Landmark: DeepPose

2.5.4. maca-megatron-lm-3.6.0.10

模块	特性说明
megatron-lm	不再包含Megatron-LM-0.8.0，原Megatron-LM-0.8.0模型已迁移至Megatron-LM-0.12.0

2.6. 配套Metax-Driver-3.5.3.11，MXMACA-SDK-3.5.3.18，MXMACA-Pytorch-3.5.3.9

此次发布的软件包仅适配曦云^® C500、C500X、C550、C550-PL、C588，曦思^® N260和曦索^® X206产品。

2.6.1. maca-vllm-metax-3.5.3.502

模块	特性说明
vllm-metax	发布社区版本0.19.0
vllm-metax	默认安装 mixl 和Imcache0.4.3

2.6.2. maca-modelzoo.llm.vllm-3.5.3.502

模块	特性说明
modelzoo.llm.vllm	发布社区版本0.19.0
modelzoo.llm.vllm	默认安装 mixl 和Imcache0.4.3

2.6.3. maca-vllm-metax-3.5.3.405

模块	特性说明
vllm-metax	发布社区版本0.18.0
vllm-metax	默认安装 mixl 和Imcache0.4.2

2.6.4. maca-modelzoo.llm.vllm-3.5.3.405

模块	特性说明
modelzoo.llm.vllm	发布社区版本0.18.0
modelzoo.llm.vllm	默认安装 mixl 和Imcache0.4.2

2.6.5. maca-vllm-metax-3.5.3.307

模块	特性说明
vllm-metax	发布社区版本0.17.0
	默认安装 mixl 和Imcache0.4.1
	Step-3.5-Flash-W8A8、Kimi-K2.5、GLM-5_W8A8

2.6.6. maca-modelzoo.llm.vllm-3.5.3.307

模块	特性说明
modelzoo.llm.vllm	发布社区版本0.17.0
	默认安装 mixl 和Imcache0.4.1
	Step-3.5-Flash-W8A8、Kimi-K2.5、GLM-5_W8A8

2.6.7. maca-verl-3.5.3.3

模块	特性说明
verl	社区版本升级到 v0.7.1

2.6.8. maca-ms-swift-3.5.3.5

模块	特性说明
ms-swift	社区版本升级到 v4.0.4

2.6.9. maca-sglang-3.5.3.208

模块	特性说明
sglang	适配v0.5.9
sglang	新增GLM-5.0-W8A8、Kimi-K2.5、Qwen3.5-397B-W8A8、Qwen3.5-122B、Qwen3.5-35B、Qwen3.5-27B和MiniMax-M2.5-W8A8模型

2.6.10. maca-modelzoo.llm.sglang-3.5.3.208

模块	特性说明
modelzoo.llm.sglang	适配v0.5.9
modelzoo.llm.sglang	新增GLM-5.0-W8A8、Kimi-K2.5、Qwen3.5-397B-W8A8、Qwen3.5-122B、Qwen3.5-35B、Qwen3.5-27B和MiniMax-M2.5-W8A8模型

2.6.11. maca-vllm-metax-3.5.3.203

模块	特性说明
vllm-metax	发布社区版本0.15.0
	默认安装 mixl 和Imcache0.3.12
	Qwen3.5-2B、Qwen3.5-4B、Qwen3.5-9B、Qwen3.5-27B、Qwen3.5-35B-A3B、 Qwen3.5-122B-A10B、Qwen3.5-397B-A17B_W8A8、MiniMax-M2.5_W8A8

2.6.12. maca-modelzoo.llm.vllm-3.5.3.202

模块	特性说明
modelzoo.llm.vllm	发布社区版本0.15.0
	默认安装 mixl 和Imcache0.3.12
	Qwen3.5-2B、Qwen3.5-4B、Qwen3.5-9B、Qwen3.5-27B、Qwen3.5-35B-A3B、 Qwen3.5-122B-A10B、Qwen3.5-397B-A17B_W8A8、MiniMax-M2.5_W8A8

2.6.13. maca-sglang-3.5.3.104

模块	特性说明
sglang	适配v0.5.8
sglang	新增DeepSeek-V3.2模型

2.6.14. maca-modelzoo.llm.sglang-3.5.3.104

模块	特性说明
modelzoo.llm.sglang	适配v0.5.8
modelzoo.llm.sglang	新增DeepSeek-V3.2模型

2.6.15. maca-vllm-metax-3.5.3.102

模块	特性说明
vllm-metax	发布社区版本0.14.0
	默认安装 mixl 和Imcache0.3.12
	新增模型GLM-4.7_W8A8、GLM-4.6V_W8A8

2.6.16. maca-modelzoo.llm.vllm-3.5.3.102

模块	特性说明
modelzoo.llm.vllm	发布社区版本0.14.0
	默认安装 mixl 和Imcache0.3.12
	新增模型GLM-4.7_W8A8、GLM-4.6V_W8A8

2.6.17. maca-megatron-lm-3.5.3.15

模块	特性说明
megatron-lm	不再包含Megatron-LM-0.8.0, 原Megatron-LM-0.8.0模型已迁移至Megatron-LM-0.12.0

2.7. 配套MXMACA-Driver-3.4.0.18，MXMACA-SDK-3.4.0.17，MXMACA-Pytorch-3.4.0.2

此次发布的软件包仅适配曦云^® C600，曦思^® N300和曦索^® X301、X302产品。

2.7.1. maca-mcoplib-3.4.0.5

模块	特性说明
mcoplib	首次发布，适配0.1.1

2.7.2. maca-modelzoo.llm.vllm-3.4.0.7

模块	特性说明
modelzoo.llm.vllm	适配vllm 0.11.0，新增模型：DeepSeek-R1-Distill-Llama-8B、Qwen3-14B、Qwen3-VL-8B-Instruct、internlm3-8b-instruct、 Qwen3-32B、DeepSeek-R1-Distill-Llama-70B、InternVL3-78B、Qwen2.5-VL-72B-Instruct

2.7.3. maca-ray-patch-3.4.0.5

模块	特性说明
ray-patch	首次发布，适配2.48.0

2.7.4. maca-vllm-metax-3.4.0.7

模块	特性说明
vllm-metax	适配vllm 0.11.0，新增模型：DeepSeek-R1-Distill-Llama-8B、Qwen3-14B、Qwen3-VL-8B-Instruct、internlm3-8b-instruct、 Qwen3-32B、DeepSeek-R1-Distill-Llama-70B、InternVL3-78B、Qwen2.5-VL-72B-Instruct

2.8. 配套MXMACA-Driver-3.4.0.18，MXMACA-SDK-3.4.0.15，MXMACA-Pytorch-3.4.0.2

此次发布的软件包仅适配曦云^® C600，曦思^® N300和曦索^® X301、X302产品。

2.8.1. maca-megatron-lm-3.4.0.5

模块	特性说明
Megatron-LM	新增模型：Llama2-7B、Deepseek-V2、Llama3-8B、Qwen2.5-7B、Qwen3-32B、 Qwen3-30B-A3B、Llama3-70B

2.8.2. maca-sglang-3.4.0.5

模块	特性说明
SGLang	适配SGLang v0.5.4

2.8.3. maca-bitsandbytes-3.4.0.5

模块	特性说明
bitsandbytes	首次发布，适配0.45.2

2.8.4. maca-deepspeed-3.4.0.5

模块	特性说明
Deepspeed	首次发布，适配0.16.5，支持Qwen3-235b-moe

2.8.5. maca-diffusers.training-3.4.0.5

模块	特性说明
diffusers.training	首次发布，适配0.28.0版本，支持模型stable-diffusion-2-1-base

2.8.6. maca-mmcv-3.4.0.5

模块	特性说明
mmcv	首次发布，适配2.2.0

2.8.7. maca-modelzoo.cnn.inference-3.4.0.5

模块	特性说明
Modelzoo.cnn.inference	支持模型List
	Classification: Densenet121/Resnet101/resnet50/vgg16
	Detection: Yolov3/Yolov5s
	Face_recognition: Retinaface/Facenet
	NLP_Transformer: Bert
	Video_enhancement: VDSR
	OCR: dbmbv3

2.8.8. maca-modelzoo.cnn.training-3.4.0.5

模块	特性说明
Modelzoo.CNN.Training	首次发布，支持模型 Resnet50、vit、densenet121、fasterrcnn、retinanet、detr、 yolov5m、deeplabv3、pspnet、bert

2.8.9. maca-modelzoo.llm.sglang-3.4.0.5

模块	特性说明
Modelzoo.LLM.SGLang	首次发布

2.8.10. maca-onnxruntime-3.4.0.5

模块	特性说明
Onnxruntime	首次发布，适配1.12.0

2.9. 配套MXMACA-Driver-3.3.0.4，MXMACA-SDK-3.3.0.15，MXMACA-Pytorch-3.3.0.2

此次发布的软件包仅适配曦云^® C500、C500X、C550、C550-PL、C588，曦思^® N260和曦索^® X206产品。

2.9.1. maca-ms-swift-3.3.0.202

模块	特性说明
ms-swift	社区版本升级到 v3.12.6

2.9.2. maca-verl-3.3.0.102

模块	特性说明
verl	社区版本升级到 v0.7.0
	PyTorch 版本升级为 2.8
	新增支持qwen2.5_7b_ppo_8gpu，qwen2.5_vl_7b_8gpu， qwen2_7b_math_8gpu，qwen3_8b_8gpu模型训练

2.9.3. maca-ms-swift-3.3.0.106

模块	特性说明
ms-swift	社区版本升级到 v3.11.3
	PyTorch 版本升级为 2.8
	Python 版本升级为 3.12
	新增支持 Qwen3-VL-8B-Instruct，Qwen3-VL-30B-A3B-Instruct 模型训练

2.9.4. maca-vllm-metax-3.3.0.303

模块	特性说明
vllm-metax	发布社区版本0.13.0

2.9.5. maca-modelzoo.llm.vllm-3.3.0.302

模块	特性说明
modelzoo.llm.vllm	发布社区版本0.13.0

2.9.6. maca-sglang-3.3.0.302

模块	特性说明
sglang	适配v0.5.7
sglang	新增DeepSeek-V3.2 W8A8模型

2.9.7. maca-modelzoo.llm.sglang-3.3.0.302

模块	特性说明
modelzoo.llm.sglang	适配v0.5.7
modelzoo.llm.sglang	新增DeepSeek-V3.2 W8A8模型

2.9.8. maca-vllm-metax-3.3.0.204

模块	特性说明
vllm-metax	发布社区版本0.12.0
vllm-metax	新增GLM-4.5V_W8A8、ERNIE-4.5-VL-28B-A3B-Thinking模型

2.9.9. maca-modelzoo.llm.vllm-3.3.0.203

模块	特性说明
modelzoo.llm.vllm	发布社区版本0.12.0
modelzoo.llm.vllm	新增GLM-4.5V_W8A8、ERNIE-4.5-VL-28B-A3B-Thinking模型

2.9.10. maca-vllm-metax-3.3.0.103

模块	特性说明
vllm-metax	发布社区版本0.11.2
	Pytorch版本升级为2.8
	新增GLM-4.6、GLM-4.6_W8A8模型

2.9.11. maca-modelzoo.llm.vllm-3.3.0.104

模块	特性说明
modelzoo.llm.vllm	发布社区版本0.11.2
	Pytorch版本升级为2.8
	新增GLM-4.6、GLM-4.6_W8A8模型

2.9.12. maca-sglang-3.3.0.101

模块	特性说明
sglang	适配v0.5.6

2.9.13. maca-ms-swift-3.3.0.16

模块	特性说明
ms-swift	社区版本升级到 v3.10.3
ms-swift	新增支持 Qwen3-8B，Llama-2-13B 模型训练

2.9.14. maca-paddle-metax-3.3.0.10

模块	特性说明
paddle-metax	首次发布，升级3.3.0版本
	支持custom kernel注册
	支持大模型训推一体
	支持科学计算高阶微分
	支持YOLOv5m、detv5、DeepSeek-vl SFT、Llama-3.2-3B SFT

2.9.15. maca-vllm-3.3.0.11

模块	特性说明
vllm	发布社区版本0.11.0
	支持py3.12版本
	新增Qwen3-Omni-30B-A3B-Instruct、Qwen3-VL-235B-A22B-Instruct_W8A8、 Qwen3-VL-30B-A3B-Instruct、Qwen3-VL-4B-Instruct、 Qwen3-VL-8B-Instruct、Qwen3-0.6B、Hunyuan-0.5B-Instruct、 Hunyuan-7B-Instruct、Qwen2.5-1.5B-Instruct模型

2.9.16. maca-modelzoo.llm.vllm-3.3.0.11

模块	特性说明
modelzoo.llm.vllm	发布社区版本0.11.0
	支持py3.12版本
	新增Qwen3-Omni-30B-A3B-Instruct、Qwen3-VL-235B-A22B-Instruct_W8A8、 Qwen3-VL-30B-A3B-Instruct、Qwen3-VL-4B-Instruct、 Qwen3-VL-8B-Instruct、Qwen3-0.6B、Hunyuan-0.5B-Instruct、 Hunyuan-7B-Instruct、Qwen2.5-1.5B-Instruct模型

2.9.17. maca-sglang-3.3.0.10

模块	特性说明
sglang	适配v0.5.4
	支持Qwen3-14B
	性能优化

2.9.18. maca-modelzoo.llm.sglang-3.3.0.10

模块	特性说明
modelzoo.llm.sglang	支持Qwen3-14B

2.9.19. maca-mcoplib-3.3.0.11

模块	特性说明
mcoplib	首次发布

2.9.20. maca-megatron-lm-3.3.0.11

模块	特性说明
megatron-lm	增加确定性测试，模型有增删改

2.10. 配套MXMACA-Driver-3.2.1.12，MXMACA-SDK-3.2.1.10，MXMACA-Pytorch-3.2.1.3

此次发布的软件包仅适配曦云^® C500、C500X、C550、C550-PL、C588，曦思^® N260和曦索^® X206产品。

2.10.1. maca-vllm-3.2.1.7

模块	特性说明
vllm	发布社区版本0.10.2
vllm	新增Qwen3-Next-80B-A3B-Instruct、 Qwen3-Next-80B-A3B-Instruct_w8a8模型

2.10.2. maca-modelzoo.llm.vllm-3.2.1.8

模块	特性说明
modelzoo.llm.vllm	发布社区版本0.10.2
modelzoo.llm.vllm	新增Qwen3-Next-80B-A3B-Instruct、 Qwen3-Next-80B-A3B-Instruct_w8a8模型

2.10.3. maca-sglang-3.2.1.8

模块	特性说明
sglang	适配v0.5.1
	支持Qwen3-80B-Next
	性能优化

2.10.4. maca-modelzoo.llm.sglang-3.2.1.8

模块	特性说明
modelzoo.llm.sglang	支持Qwen3-80B-Next

2.10.5. maca-ms-swift-3.2.1.6

模块	特性说明
ms-swift	新增 DeepSeek-R1-Distill-Qwen-32B 模型

2.11. 配套MXMACA-Driver-3.2.0.21，MXMACA-SDK-3.2.0.12，MXMACA-Pytorch-3.2.0.6

此次发布的软件包仅适配曦云^® C600，曦思^® N300和曦索^® X301、X302产品。

2.11.1. maca-vllm-3.2.0.5

模块	特性说明
vLLM	OAM首次发布，适配vllm0.10.0，支持Qwen3-235B、Qwen3-235B-W8A8、DeepSeek-V3-W8A8

2.11.2. maca-modelzoo.llm.vllm-3.2.0.5

模块	特性说明
Modelzoo.LLM.vLLM	OAM首次发布
	OAM基于vllm 支持主流单卡/多卡大语言模型/多模态模型功能/性能/精度测试
	OAM支持离线/在线服务化部署

2.11.3. maca-megatron-lm-3.2.0.3

模块	特性说明
Megatron-lm	OAM首次发布，支持Qwen3-4B和Qwen3-8B预训练

2.11.4. maca-sglang-3.2.0.5

模块	特性说明
SGLang	OAM首次发布，适配SGLang v0.4.8，支持DeepSeek-W8A8、Qwen3-235B-A22B、Qwen3-235B-W8A8模型

2.12. 配套MXMACA-Driver-3.2.0.19，MXMACA-SDK-3.2.0.11，MXMACA-Pytorch-3.2.0.6

此次发布的软件包仅适配曦云^® C600，曦思^® N300和曦索^® X301、X302产品。

2.12.1. maca-vllm-3.2.0.4

模块	特性说明
vLLM	首次发布，适配vllm0.10.0，支持Qwen3-235B、Qwen3-235B-W8A8模型

2.12.2. maca-modelzoo.llm.vllm-3.2.0.4

模块	特性说明
Modelzoo.LLM.vLLM	首次发布
	基于vllm 支持主流单卡/多卡大语言模型/多模态模型功能/性能/精度测试
	支持离线/在线服务化部署

2.12.3. maca-megatron-lm-3.2.0.2

模块	特性说明
Megatron-lm	首次发布，支持Qwen3-4B和Qwen3-8B预训练

2.12.4. maca-sglang-3.2.0.4

模块	特性说明
SGLang	首次发布，适配SGLang v0.4.8，支持Qwen3-235B、Qwen3-235B-W8A8模型

2.13. 配套MXMACA-C500-Driver-3.1.0.11，MXMACA-C500-SDK-3.1.0.14，MXMACA-C500-Pytorch-3.1.0.4

2.13.1. mxc500-modelzoo.llm.diffusers-3.1.0.5

模块	特性说明
modelzoo.llm.diffusers	新增支持SD3.5

2.13.2. mxc500-ms-swift-3.1.0.6

模块	特性说明
ms-swift	首次发布

2.13.3. mxc500-verl-3.1.0.5

模块	特性说明
verl	首次发布

2.13.4. mxc500-megatron-lm-3.1.0.7

模块	特性说明
megatron-lm	发布transformer engine 2.3 backend

2.13.5. mxc500-sglang-3.1.0.8

模块	特性说明
sglang	适配v0.4.8
	支持Kimi-K2
	性能优化

2.13.6. mxc500-modelzoo.llm.sglang-3.1.0.9

模块	特性说明
modelzoo.llm.sglang	首次发布

2.14. 配套MXMACA-C500-Driver-3.0.0.5，MXMACA-C500-SDK-3.0.0.8，MXMACA-C500-Pytorch-3.0.0.3

2.14.1. mxc500-modelzoo.cnn.training-3.0.0.5

模块	特性说明
modelzoo.cnn.training	Pytorch版本升级到2.4

2.14.2. mxc500-mmcv-3.0.0.5

模块	特性说明
mmcv	Pytorch版本升级到2.4

2.14.3. mxc500-megatron-lm-3.0.0.5

模块	特性说明
megatron-lm	开源版本升级
megatron-lm	无模型改变

2.14.4. mxc500-colossalai-3.0.0.6

模块	特性说明
colossalai	开源版本升级

2.14.5. mxc500-vllm-3.0.0.5

模块	特性说明
vllm	版本升级为0.9.1
	新增招行文心一言模型
	Deepseek模型多机使用TP+DP

2.14.6. mxc500-modelzoo.llm.vllm-3.0.0.5

模块	特性说明
modelzoo.llm.vllm	新增internvl-2.5-26b、招行文心一言模型
modelzoo.llm.vllm	benchmark_serving.py支持多模态模型

2.14.7. mxc500-deepspeed-3.0.0.5

模块	特性说明
deepspeed	开源版本升级
deepspeed	无模型改变

2.14.8. mxc500-modelzoo.cnn.inference-3.0.0.5

模块	特性说明
modelzoo.cnn.inference	增加客户模型

2.15. 配套MXMACA-C500-Driver-2.33.0.9，MXMACA-C500-SDK-2.33.0.12，MXMACA-C500-Pytorch-2.33.0.5

2.15.1. mxc500-deepspeed-2.33.0.11

模块	特性说明
deepspeed	更新llamafactory 0.9.2
	增加了sequence paralle功能
	增强代码安全性

2.15.2. mxc500-internlm-2.33.0.12

模块	特性说明
internlm	支持长序列训练
internlm	支持MoE模型训练

2.15.3. mxc500-modelzoo.cnn.training-2.33.0.11

模块	特性说明
modelzoo.cnn.training	最低兼容MXMACA2.27版本

2.15.4. mxc500-megatron-lm-2.33.0.11

模块	特性说明
megatron-lm	删除megatron-lm core_v0.6.0
megatron-lm	新增megatron-lm core_v0.10.0

2.16. 配套MXMACA-C500-Driver-2.32.0.6，MXMACA-C500-SDK-2.32.0.6，MXMACA-C500-Pytorch-2.32.0.3

2.16.1. mxc500-megatron-lm-2.32.0.5

模块	特性说明
megatron-lm	计算通信并行支持sdma
megatron-lm	attention offload 支持TE

2.16.2. mxc500-paddle-2.32.0.5

模块	特性说明
paddle	修复op paddle.eye
paddle	修复bug

2.16.3. mxc500-bitsandbytes-2.32.0.5

模块	特性说明
bitsandbytes	社区版本升级到0.45.2

2.16.4. mxc500-ray-2.32.0.7

模块	特性说明
Ray	首次发布，支持ray.dag

2.16.5. mxc500-vllm-2.32.0.11

模块	特性说明
vllm	切换版本至0.8.2
vllm	支持V1 engine，默认export VLLM_USE_V1=0 使用V0 engine测试

2.16.6. mxc500-modelzoo.llm.vllm-2.32.0.11

模块	特性说明
modelzoo.llm.vllm	支持vllm 0.8.2

2.16.7. mxc500-modelzoo.llm.diffusers-2.32.0.6

模块	特性说明
modelzoo.llm.diffusers	需配套MXMACA-C500-SDK-2.32.0.7使用
modelzoo.llm.diffusers	如需获取二进制安装包，请联系沐曦技术支持工程师

2.16.8. mxc500-onnxruntime-2.32.0.6

模块	特性说明
onnxruntime	需配套MXMACA-C500-SDK-2.32.0.7使用
onnxruntime	如需获取二进制安装包，请联系沐曦技术支持工程师

2.16.9. mxc500-modelzoo.cnn.inference-2.32.0.6

模块	特性说明
modelzoo.cnn.inference	需配套MXMACA-C500-SDK-2.32.0.7使用
modelzoo.cnn.inference	如需获取二进制安装包，请联系沐曦技术支持工程师

2.16.10. mxc500-sglang-2.32.0.10

模块	特性说明
sglang	v0.4.3版本适配
	支持DeepSeek-BF16模型及DeepSeek-R1-Qwen、DeepSeek-R1-Llama系列蒸馏模型
	支持W8A8_INT8量化

2.17. 配套MXMACA-C500-SDK-2.31.0.6，MXMACA-C500-Driver-2.31.0.6，MXMACA-C500-Pytorch-2.31.0.4

2.17.1. mxc500-deepspeed-2.31.0.3

模块	特性说明
deepspeed	增加liger_kernel融合算子
deepspeed	Pytorch版本升级到2.4

2.17.2. mxc500-colossalai-2.31.0.4

模块	特性说明
colossalai	Colossal-AI从0.3.4升级到0.3.6

2.17.3. mxc500-megatron-lm-2.31.0.3

模块	特性说明
megatron-lm	auto search
	冷热专家
	DeepSeek系列基础结构，aux loss free
	更新Readme和特性介绍

2.17.4. mxc500-triton-inference-server-2.31.0.3

模块	特性说明
triton-inference-server	Pytorch版本升级到2.4

2.18. 配套MXMACA-C500-Driver-2.29.0.13，MXMACA-C500-SDK-2.29.0.19，MXMACA-C500-Pytorch-2.29.0.4

2.18.1. mxc500-cv-cuda-2.29.0.6

模块	特性说明
cv-cuda	初版适配

2.18.2. mxc500-xtuner-2.29.0.7

模块	特性说明
xtuner	初版适配

2.18.3. mxc500-vllm-2.29.0.6

模块	特性说明
vllm	版本升级为0.6.6（仅适用py310）
	支持GGUF
	支持W8A8量化方式
	支持分离式推理

2.18.4. mxc500-modelzoo.llm.vllm-2.29.0.8

模块	特性说明
modelzoo.llm.vllm	兼容0.6.6特性（仅适用py310）
modelzoo.llm.vllm	新增支持模型

2.18.5. mxc500-modelzoo.llm.diffusers-2.29.0.6

模块	特性说明
modelzoo.llm.diffusers	支持Flux性能测试

2.18.6. mxc500-megatron-lm-2.29.0.7

模块	特性说明
megatron-lm	适配megatron-lm core0.8，新增模型，优化性能

2.18.7. mxc500-modelzoo.llm.transformers-2.29.0.7

模块	特性说明
modelzoo.llm.transformers	新增transformers框架功能/性能/精度测试模块

2.19. 配套MXMACA-C500-Driver-2.27.0.11，MXMACA-C500-SDK-2.27.0.11，MXMACA-C500-Pytorch-2.27.0.8

2.19.1. mxc500-vllm-2.27.0.9

模块	特性说明
vllm	切换0.6.2版本
	优化gptq & awq性能
	性能默认开启graph模式
	flash attn依赖包调整为依赖flash_attn_vllm包，可在发布的vLLM安装包获取
	支持num_schedule_steps
	支持BF16

2.19.2. mxc500-modelzoo.llm.vllm-2.27.0.9

模块	特性说明
modelzoo.llm.vllm	优化gptq & awq性能
	性能默认开启graph模式
	flash attn依赖包调整为依赖flash_attn_vllm包，可在发布的vllm安装包获取
	支持num_schedule_steps
	支持BF16

2.19.3. mxc500-modelzoo.llm.diffusers-2.27.0.8

模块	特性说明
modelzoo.llm.diffusers	新增支持Flux

2.19.4. mxc500-deepspeed-2.27.0.10

模块	特性说明
deepspeed	发布15.1

2.19.5. mxc500-modelzoo.cnn.inference-2.27.0.10

模块	特性说明
modelzoo.cnn.inference	支持modelzoo3.0模型

2.19.6. mxc500-onnxruntime-2.27.0.8

模块	特性说明
onnxruntime	新增支持mha算子attn_mask_broadcast规则
	修复fasterRcnn的NMS、topk算子问题
	bert、字节模型优化

2.19.7. mxc500-modelzoo.cnn.training-2.27.0.7

模块	特性说明
modelzoo.cnn.training	mmcv升级到2.2

2.20. 配套MXMACA-C500-Driver-2.25.2.8，MXMACA-C500-SDK-2.25.2.9，MXMACA-C500-Pytorch-2.25.2.8

2.20.1. mxc500-ppl.llm.serving-2.25.2.10

模块	特性说明
ppl.llm.serving	新增Qwen1.5模型，Yi1.5模型

2.20.2. mxc500-modelzoo.llm.ppl-2.25.2.10

模块	特性说明
modelzoo.llm.ppl	新增Qwen1.5模型，Yi1.5模型

2.20.3. mxc500-vllm-2.25.2.12

模块	特性说明
vllm	优化gptq、awq功能
	支持MXMACA graph
	优化MOE模型性能
	支持PP流水线并行

2.20.4. mxc500-modelzoo.llm.vllm-2.25.2.12

模块	特性说明
modelzoo.llm.vllm	支持MXMACA graph测试功能

2.20.5. mxc500-triton-inference-server-2.25.2.10

模块	特性说明
triton-inference-server	新增onnxruntime backend

2.20.6. mxc500-mmcv-2.25.2.10

模块	特性说明
mmcv	新增适配

2.20.7. mxc500-modelzoo.llm.diffusers-2.25.2.11

模块	特性说明
modelzoo.llm.diffuser	支持静态模型推理

2.20.8. mxc500-modelzoo.cnn.inference-2.25.2.12

模块	特性说明
modelzoo.cnn.inference	新增I3D/Speech-Transformer/yolov5s_tag5模型

2.20.9. mxc500-onnxruntime-2.25.2.11

模块	特性说明
onnxruntime	增加支持了若干模型
	支持max_pool global_ave_poll reducemean 5d算子
	进一步优化了conv、bridge算子性能，支持了conv 3d
	支持了QuickGelu算子融合
	优化了bert性能

2.20.10. mxc500-modelzoo.cnn.training-2.25.2.10

模块	特性说明
modelzoo.cnn.training	优化了部分模型配置参数

2.21. 配套MXMACA-C500-Driver-2.25.0.3，MXMACA-C500-SDK-2.25.0.7，MXMACA-C500-Pytorch-2.25.0.0

2.21.1. mxc500-ppl.llm.serving-2.25.0.5

模块	特性说明
ppl.llm.serving	修复了部分kernel地址越界问题

2.21.2. mxc500-modelzoo.llm.ppl-2.25.0.5

模块	特性说明
modelzoo.llm.ppl	修复了部分kernel地址越界问题

2.21.3. mxc500-vllm-2.25.0.6

模块	特性说明
vllm	优化了性能
vllm	解决部分多卡运行问题

2.21.4. mxc500-modelzoo.llm.vllm-2.25.0.6

模块	特性说明
modelzoo.llm.vllm	优化了性能
modelzoo.llm.vllm	解决部分多卡运行问题

2.22. 配套MXMACA-C500-Driver-2.24.0.10，MXMACA-C500-SDK-2.24.0.12，MXMACA-C500-Pytorch-2.24.0.5

2.22.1. mxc500-megatron-lm-2.24.0.4

模块	特性说明
Megatron-LM	优化框架性能，新增chatglm3，qwen2，qwen1.5，baichuan2模型支持

2.22.2. mxc500-modelzoo.llm.ppl-2.24.0.4

模块	特性说明
modelzoo.llm.ppl	新增支持模型Baichun2-13B

2.22.3. mxc500-ppl.llm.serving-2.24.0.4

模块	特性说明
PPL-LLM	新增支持模型Baichun2-13B

2.22.4. mxc500-vllm-2.24.0.4

模块	特性说明
vLLM	版本适配切换到0.5.4
	优化paged attn、fuse moe kernel实现
	新增Llama3.1等模型适配

2.22.5. mxc500-modelzoo.llm.vllm-2.24.0.4

模块	特性说明
modelzoo.llm.vllm	新增兼容vllm 0.5.4脚本，新加若干个模型
modelzoo.llm.vllm	提供 torch profile 方式

2.22.6. mxc500-alpaca-lora-2.24.0.4

模块	特性说明
alpaca-lora	支持alpaca-7b和alpaca-13b

2.22.7. mxc500-paddle-2.24.0.5

模块	特性说明
Paddle-maca	优化了部分算子性能

2.22.8. mxc500-internlm-2.24.0.4

模块	特性说明
internlm	增加对InternEvo的支持

2.22.9. mxc500-modelzoo.llm.diffusers-2.24.0.6

模块	特性说明
modelzoo.llm.diffusers	增加多卡运行代码

2.23. 配套MXMACA-C500-Driver-2.23.0.1014，MXMACA-C500-SDK-2.23.0.1018，MXMACA-C500-Pytorch-2.23.0.1011

2.23.1. mxc500-onnxruntime-2.23.0.3

模块	特性说明
Onnxruntime-maca	进一步优化了conv、resize、transpose、bridge等算子的性能
Onnxruntime-maca	解决了部分模型无法运行的问题

2.23.2. mxc500-ppl.llm.serving-2.23.0.3

模块	特性说明
PPL-LLM	优化了部分算子性能

2.23.3. mxc500-modelzoo.llm.ppl-2.23.0.3

模块	特性说明
modelzoo.llm.ppl	提供了若干个ppl测试样例

2.23.4. mxc500-vllm-2.23.0.3

模块	特性说明
vLLM	bloom模型推理问题，修复qwen_moe和deepseek推理问题
	优化paged attn
	新增lora、multi-lora 支持和优化
	新增gptq、awq功能支持，性能待优化

2.23.5. mxc500-modelzoo.llm.vllm-2.23.0.1

模块	特性说明
modelzoo.llm.vllm	提供了若干个vllm测试样例，测试dytpe改成float16
modelzoo.llm.vllm	新增lora和gptq测试脚本

2.23.6. mxc500-internlm-2.23.0.1

模块	特性说明
internlm	添加了训练脚本和README文档
internlm	删除了不再起作用的环境变量

2.23.7. mxc500-modelzoo.llm.diffusers-2.23.0.1

模块	特性说明
modelzoo.llm.diffusers	提供了diffusers的onnx后端测试样例
	新增Prati数据集测试方式
	完善打印信息

2.23.8. mxc500-paddle-2.23.0.1

模块	特性说明
Paddle-maca	更新到2.6.0版本

2.23.9. mxc500-modelzoo.cnn.training-2.23.0.1

模块	特性说明
modelzoo.cnn.training	解决部分模型运行报错问题

2.24. 配套MXMACA-C500-2.22.0.9 amd64和MXMACA-C500-2.22.0.11 arm64

2.24.1. mxc500-onnxruntime-2.22.0.9.318/mxc500-onnxruntime-ft2000-2.22.0.11.159

模块	特性说明
Onnxruntime-maca	优化了部分算子的性能

2.24.2. mxc500-megatron-lm-2.22.0.9.306

模块	特性说明
Megatron-LM	优化框架性能，支持core0.6.0

2.24.3. mxc500-ppl.llm.serving-2.22.0.9.311/mxc500-ppl.llm.serving-ft2000-2.22.0.11.168

模块	特性说明
PPl-LLM	优化了部分算子性能

2.24.4. mxc500-modelzoo.llm.ppl-2.22.0.9.118

模块	特性说明
modelzoo.llm.ppl	提供了若干个ppl测试样例

2.24.5. mxc500-vllm-2.22.0.9.186

模块	特性说明
vLLM	优化gemm计算
vLLM	修复长文本oom问题

2.24.6. mxc500-modelzoo.llm.vllm-2.22.0.9.122

模块	特性说明
modelzoo.llm.vllm	提供了若干个vLLM测试样例

2.24.7. mxc500-internlm-2.22.0.9.33

模块	特性说明
internlm	internlm大模型训练框架

2.24.8. mxc500-modelzoo.llm.diffusers-2.22.0.9.120

模块	特性说明
modelzoo.llm.diffusers	提供了diffusers的onnx后端测试样例

2.24.9. mxc500-modelzoo.llm.transformers-2.22.0.9.115

模块	特性说明
transformers	提供了transformers测试环境和测试代码

2.24.10. mxc500-modelzoo.cnn.training-2.22.0.9.61

模块	特性说明
modelzoo.cnn.training	提供了若干个cnn training测试样例

2.24.11. mxc500-modelzoo.cnn.inference-2.22.0.9.120

模块	特性说明
modelzoo.cnn.inference	提供了常见的CNN模型的ONNXRUNTIME推理测试样例

2.24.12. mxc500-bitsandbytes-2.22.0.9.150

模块	特性说明
bitsandbytes	支持了部分场景下bitsandbytes的API

2.25. 配套MXMACA-C500-2.20.2.19

2.25.1. mxc500-onnxruntime-2.20.2.18.238

模块	特性说明
Onnxruntime-maca	优化了部分算子性能
Onnxruntime-maca	解决了部分模型无法运行的问题

2.25.2. mxc500-megatron-lm-2.20.2.2.141

模块	特性说明
Megatron-LM	新增对megatron-Core的支持

2.25.3. mxc500-ppl.llm.serving-2.20.2.18.236

模块	特性说明
PPl-LLM	新增支持了Qwen、Mixtral、Llama3模型
PPl-LLM	优化了部分模型性能

2.25.4. mxc500-colossalai-2.20.2.2.91

模块	特性说明
ColossalAI	首次发布，优化optimizer性能

2.25.5. mxc500-vllm-2.20.2.19.147

模块

特性说明

vLLM

首次发布，兼容官方0.4.0版本

存在以下局限性：

当前暂不支持Lora，后续将完善支持
支持GPTQ量化方式，暂不支持其他量化方式
暂不支持enforce_eager=False方式，内部关闭
暂不支持FP8类型的KV Cache
当前仅包含Ubuntu 20系统版本，后续将完善支持其他系统

2.26. 配套MXMACA-C500-2.19.2.23

2.26.1. mxc500-onnxruntime-2.19.2.23.111

模块	特性说明
Onnxruntime-maca	优化部分模型计算性能

2.26.2. mxc500-ppl.llm.serving-2.19.2.23.111

模块	特性说明
PPL-LLM	优化部分模型计算性能

2.27. 配套MXMACA-C500-2.19.2.7

2.27.1. mxc500-onnxruntime-2.19.2.5.65

模块	特性说明
Onnxruntime-maca	新增profiling功能
Onnxruntime-maca	优化部分模型计算性能

2.27.2. mxc500-ppl.llm.serving-2.19.2.7.66

模块	特性说明
PPL-LLM	优化部分模型计算性能

2.28. 配套MXMACA-C500-2.19.0.12

2.28.1. mxc500-onnxruntime-2.19.0.12.40

模块	特性说明
Onnxruntime-maca	优化部分模型计算性能

2.28.2. mxc500-ppl.llm.serving-2.19.0.12.43

模块	特性说明
PPL LLM	新增支持Llamav2，ChatGLM2，ChatGLM3模型
PPL LLM	优化模型转换及服务化部署示例

2.29. 配套MXMACA-C500-2.18.0.4

无新增和变更特性，修复reported bug。

2.30. 配套MXMACA-C500-2.17.3.11

2.30.1. mxc500-onnxruntime-2.17.3-0

模块	特性说明
Onnxruntime-maca	优化部分模型计算性能
Onnxruntime-maca	修复部分算子计算逻辑问题

2.30.2. mxc500-deepspeed-2.17.3.11.76

模块	特性说明
DeepSpeed	Alpha版本，支持大模型训练

2.30.3. mxc500-megatron-lm-2.17.3.11.35

模块	特性说明
Megatron-LM	Alpha版本，支持大模型训练

2.30.4. mxc500-paddle-2.17.3.9.111

模块	特性说明
Paddle-maca	Alpha版本，支持FP32精度下的单卡及多卡训练

2.30.5. mxc500-ppl.llm.serving-2.17.3.11.58

模块	特性说明
PPL LLM	Alpha版本，支持LLama v1，Baichuan，InternLM模型

2.31. MXC500-ONNXRUNTIME-2.16.1-3

模块	特性说明
Onnxruntime-maca	新增支持部分模型
Onnxruntime-maca	优化部分算子性能

2.32. MXC500-ONNXRUNTIME-2.15.0-4

模块	特性说明
Onnxruntime-maca	支持C、C++和Python接口
	支持多种模型数据类型，包括float32、float16、int8、uint8等
	支持动态batch推理功能
	支持多线程调用和多进程调用
	支持单机多GPU卡
	支持用户管理系统内存、锁页内存、显存
MacaConverter	支持Caffe、Tensorflow、Pytorch、PaddlePaddle、Darknet模型转为ONNX模型
	支持ONNX简化
	支持FP32模型转为FP16模型
	支持子图提取、图优化
MacaQuantizer	支持多种量化算法
	支持开启强制优化
	支持量化损失阈值配置
	支持自定义预处理
	支持自动量化流程
	支持Debug模式
MacaPrecision	支持MXC500与CPU精度对比
	支持逐层精度对比
	支持多种精度评估方法
	支持量化模型精度分析