MetaX-Tech Developer Forum 论坛首页
  • 沐曦开发者
search
Sign in
  • chevron_right Threads
  • label 产品&运维
  • label 解决中

VLLM/SGLang PD 分离特性的支持

mijiazhi
2025年12月6日
chat_bubble_outline 1
  • link
    mijiazhi
    Members 1 post
    2025年12月6日 12:09 2025年12月6日 12:09
    link

    目前 VLLM 或者 Sglang 的 PD 分离主要依赖 mooncake 或者 nixl 的 kv 传输后端,请问沐曦是否提供了类似的能适配沐曦通信库的kvcache 传输方案呢?

  • link
    shuai_chen
    Members 139 posts
    2025年12月9日 12:52 2025年12月9日 12:52
    link

    尊敬的开发者您好,沐曦已适配类似的通信库的kvcache传输方案,详细解决方案请通过商务渠道获取。

  • arrow_forward

    Thread has been moved from 公共.

    • By shuai_chen on 2025年12月9日 12:55.
arrow_upward Go to top
  • 沐曦开发者论坛
powered by misago