Threads | mijiazhi | 沐曦开发者论坛

See post chevron_right

mijiazhi
Members

VLLM/SGLang PD 分离特性的支持解决中 2025年12月6日 12:09

目前 VLLM 或者 Sglang 的 PD 分离主要依赖 mooncake 或者 nixl 的 kv 传输后端，请问沐曦是否提供了类似的能适配沐曦通信库的kvcache 传输方案呢？