MetaX-Tech Developer Forum 论坛首页
  • 沐曦开发者
search
Sign in
  • chevron_right Threads
  • label type:需求/bug
  • label 已解决

DeepSeek-V4-Flash-0731-W8A8部署

zhengy9981
2026年11月4日
chat_bubble_outline 3
  • link
    zhengy9981
    Members 2 posts
    2026年11月4日 11:20 2026年11月4日 11:20
    link

    当前发布的metax-vllm:0.28.0可以适配 DeepSeek-V4-Flash-0731-W8A8吗

  • arrow_forward

    Thread has been moved from 公共.

    • By shuai_chen on 2026年11月4日 11:38.
  • link
    shuai_chen
    Members 1029 posts
    2026年11月4日 11:39 2026年11月4日 11:39
    link

    尊敬的开发者您好,不适配,请参考developer.metax-tech.com/llm-inference/sgldocs/latest/getting_started/overview.html 使用sglang镜像

  • link
    zhengy9981
    Members 2 posts
    2026年11月4日 13:20 2026年11月4日 13:20
    link

    我看到官网上已更新DeepSeek‑V4‑Flash‑0731‑W8A8 基于 vLLM 的部署与验证步骤,想再确认一下。
    developer.metax-tech.com/llm-inference/vllmdocs/latest/tutorials/models/DeepSeek-V4-Flash-0731/DeepSeek-V4-Flash-0731-W8A8/DeepSeek-V4-Flash-0731-W8A8.html

  • link
    shuai_chen
    Members 1029 posts
    2026年11月4日 13:46 2026年11月4日 13:46
    link

    尊敬的开发者您好,请使用文档中定制vllm-metax镜像

  • arrow_forward

    Thread has been moved from 解决中.

    • By shuai_chen on 2026年11月9日 17:29.
arrow_upward Go to top
  • 沐曦开发者论坛
powered by misago