现在有很多模型我想要使用 MXC500 部署 Q4_K_V 的量化版本，GGUF 格式的权重通常需要llama.cpp 的推理支持，但注意到沐曦没有做这方面的支持，想问一下这个格式的权重推理部署，官方有什么样的建议？
2026年6月27日
1
-
-
- By shuai_chen on 2026年6月29日 10:20.
-
尊敬的开发者您好，暂不支持GGUF格式
-
- By shuai_chen on 2026年7月6日 10:21.