MetaX-Tech Developer Forum 论坛首页
  • 沐曦开发者
search
Sign in
  • chevron_right Threads
  • label 产品&运维
  • label 解决中

两张c500主模型用两张卡跑,然后在其中一张卡上跑了一个小模型,小模型直接卡住了没有反馈

mok1985
2026年8月25日
chat_bubble_outline 1
  • link
    mok1985
    Members 3 posts
    2026年8月25日 15:42 2026年8月25日 15:42
    link

    一直阻塞在这个命令段 后面,换成一张卡跑一个模型,就可以了,请问之前的那个状态要如何解决 模型用的是这个 qwen36b_35b_w8a8z
    (APIServer pid=1) INF0:172.17.0.1:56762 - "GET /v1/models HTTP/1.1" 200 0Kroot@localhost ~]# time curl -s http://localhost:19002/v1/embeddings -H "Content-Type: application/json"\'{"model":"qwen3-embedding","input":["测试文本"]}'

    微信图片_20260825153130_200_108.png

    PNG, 15.8 KB, uploaded by mok1985 on 2026年8月25日.

  • arrow_forward

    Thread has been moved from 产品&运维.

    • By shuai_chen on 2026年8月25日 19:44.
  • link
    shuai_chen
    Members 796 posts
    2026年8月25日 19:44 2026年8月25日 19:44
    link

    尊敬的开发者您好,请按照developer.metax-tech.com/forum/t/fa-tie-qian-bi-kan-jing-xiang-shi-yong-wen-ti-ti-wen-mo-ban/267/ 详细描述操作步骤和日志

arrow_upward Go to top
  • 沐曦开发者论坛
powered by misago