MetaX-Tech Developer Forum 论坛首页
  • 沐曦开发者
search
Sign in
  • chevron_right Threads
  • label 产品&运维
  • label 解决中

MetaX C500 使用 vllm-metax:0.19.0-maca.ai3.5.3.502-torch2.8-py312镜像部署 Qwen3.6-35B-A3B-FP8 失败

lionel
2026年6月2日
chat_bubble_outline 1
  • link
    lionel
    Members 3 posts
    2026年6月2日 15:17 2026年6月2日 15:17
    link

    图片.png
    使用 vllm-metax:0.19.0-maca.ai3.5.3.502-torch2.8-py312-ubuntu22.04-amd64 镜像部署 Qwen3.6-35B-A3B-FP8
    报错:Value error, fp8 quantization is currently not supported in maca.
    请问:原因是c500 还不支持fp8模型吗

  • arrow_forward

    Thread has been moved from 公共.

    • By shuai_chen on 2026年6月2日 15:33.
  • link
    shuai_chen
    Members 521 posts
    2026年6月2日 15:34 2026年6月2日 15:34
    link

    尊敬的开发者您好,C500不支持FP8

arrow_upward Go to top
  • 沐曦开发者论坛
powered by misago