当前发布的metax-vllm:0.27.0可以适配 DeepSeek-V4-Flash-0731-W8A8吗
当前发布的metax-vllm:0.27.0可以适配 DeepSeek-V4-Flash-0731-W8A8吗
如题vllm-metax:0.25版本支持deepseek-v4-flash-0731部署了吗
显卡C500 64G 单卡部署 metax-tech/Qwen3-30B-A3B-W8A8 metax-vllm版本0.21,部署后,英文输出正常,要求他中文回答的时候,里面仍然会有30%的英文输出,比如:我能够帮助you什么,你可以tell我,and you can 提供进一步的数据,我会help你