MetaX-Tech Developer Forum 论坛首页
  • 沐曦开发者
search
Sign in
  • chevron_right Threads
  • label 产品&运维
  • label 已解决

c550部署metax-deepseekv4flash0731w8a8出现问题

qdwzy0831
2026年8月31日
chat_bubble_outline 3
  • link
    qdwzy0831
    Members 5 posts
    2026年8月31日 14:21 2026年8月31日 14:21
    link

    使用的镜像为vllm-metax:0.24.0-maca.ai3.8.2.5-torch2.10-py312-ubuntu22.04-amd64
    无法使用mtp或dspark,且模型部署后,调用工具时出现upstream error: ("error":{"message":"cannot import name 'normalize_tool_choice' From 'xgrammar" (/opt/conda/lib/python3.12/site- packages/xgrammar/init.py)","bype":"InternalServerError","param"null,"code":500]}
    检查镜像后发现normalize_tool_choice未在镜像的init.py文件内出现。
    请问如何处理?

  • arrow_forward

    Thread has been moved from 产品&运维.

    • By shuai_chen on 2026年8月31日 14:23.
  • link
    shuai_chen
    Members 949 posts
    2026年8月31日 14:24 2026年8月31日 14:24
    link

    尊敬的开发者您好,此镜像不支持mtp或dspark,请等待后续镜像更新。若需申请POC镜像,请通过GPU购买商务渠道获取。

  • link
    qdwzy0831
    Members 5 posts
    2026年8月31日 14:25 2026年8月31日 14:25
    link

    请问调用工具的报错如何解决?

  • link
    shuai_chen
    Members 949 posts
    2026年8月31日 14:31 2026年8月31日 14:31
    link

    尊敬的开发者您好,请等待后续镜像更新。

  • arrow_forward

    Thread has been moved from 解决中.

    • By shuai_chen on 2026年9月7日 10:33.
arrow_upward Go to top
  • 沐曦开发者论坛
powered by misago