尊敬的沐曦技术团队您好:
我们正在评估 DeepSeek-V4.1-Flash(9月10日发布)在 C550 上的部署可行性,请教以下问题:
【环境】8x C550 64GB,驱动3.9.25,MACA 3.8.2.6,镜像 modelzoo.llm.vllm:1.0.3(vLLM 0.25.0)
【问题】当前镜像支持 DeepseekV4(上一代),但不包含 DeepseekV41ForCausalLM(V4.1的CED新架构)。
【请教】
1. V4.1-Flash 的 vLLM/SGLang 适配计划?预计何时发布预览镜像?
2. 是否有内部预览版可提前测试?
3. 仅6卡可用(384GB),475GB模型放不下,是否会提供 W8A8/AWQ 量化版?量化工具是否支持 V4.1 新架构(含Engram层)?
4. V4.1 多模态能力(ViT)是否在适配计划内?
感谢支持!期待 V4.1 适配进展。