released
[ACL] [Feature] FlashAttn支持GPT-OSS推理所需sink功能
<< 請問何時支援GPT-OSS
- does it support mxfp4?
released
[ACL] [Feature] FlashAttn支持GPT-OSS推理所需sink功能
<< 請問何時支援GPT-OSS
你好, vllm:maca.ai3.1.0.7-torch2.6-py310-centos9-amd64 支援vllm 0.10.0
請問何時公開支援GPT-OSS 的vllm0.10.1? 謝謝