基于vLLM、SGLang推理框架对于MoE模型的优化特性支持有哪些?不支持哪些?如何开启?
基本上都已经支持,操作方法和社区版本保持一致。可联系接口人获取详细信息。
需要一个详细的支持清单和开启方式,目前测试下来,啥都没有。。。
尊敬的开发者您好,请联系商务侧接口人获取详细信息。
Thread has been moved from 公共.