目前在沐曦镜像仓库中看到两种 SGLang 镜像:
- 普通 SGLang 镜像
- SGLang:0.5.12
- MXMACA:3.8.2.7
-
PyTorch:2.10
-
GLM-5 PD 分离 RC4 镜像
- SGLang:0.5.12
- MXMACA:3.7.1.13
- PyTorch:2.8
想请教一下,除了 PD 分离专用镜像中包含的部署脚本(如 Prefill、Decode、Gateway、Mooncake 相关脚本)以外,两种镜像在底层还有哪些区别?
例如,PD 分离专用镜像是否对 SGLang 源码、Mooncake KV Cache 传输组件、DeepEP/MCCL 通信库或其他依赖进行了额外适配和修改?
另外,普通 SGLang 镜像在补充相关依赖及配置后,是否也可以实现 PD 分离?还是必须使用沐曦提供的 PD 分离专用镜像?
主要想了解 PD 分离能力对专用镜像的依赖程度,以及后续是否能够基于较新版本的 MXMACA 和 PyTorch 环境部署 PD 分离。
感谢解答!