www.modelscope.cn/models/metax-tech/GLM-5.3-Flash-W8A8
vllm0.26.0-glm5next:0821 , 已知只支援BF16
請問DAY0鏡象何時支援W8A8
www.modelscope.cn/models/metax-tech/GLM-5.3-Flash-W8A8
vllm0.26.0-glm5next:0821 , 已知只支援BF16
請問DAY0鏡象何時支援W8A8
released
[ACL] [Feature] FlashAttn支持GPT-OSS推理所需sink功能
<< 請問何時支援GPT-OSS
你好, vllm:maca.ai3.1.0.7-torch2.6-py310-centos9-amd64 支援vllm 0.10.0
請問何時公開支援GPT-OSS 的vllm0.10.1? 謝謝