MetaX-Tech Developer Forum
  • 沐曦开发者
search
Sign in
  • chevron_right Threads
  • label 产品&运维
  • label 信息沟通

c500在线推理14B模型卡死

xiaoliyuan
2025年7月24日
chat_bubble_outline 1
  • link
    xiaoliyuan
    Members 1 post
    2025年7月24日 16:53 2025年7月24日 16:53
    link

    在c500上运行Qwen3-14B的模型,用的官方的模型和官方的代码
    运行步骤参考使用文档developer.metax-tech.com/doc/242
    只改了模型部分,其他部分一模一样,demo中qwen2.5-7B模型可以正常跑而且跑的很快
    Qwen3-14B仅能回答1+1之类的简单问题,且提问过程时达到50%的gpu使用率,但是稍长的问题就会卡死不动,gpu占用率为0%,想问一下这个是什么问题

  • link
    shuai_chen
    Members 28 posts
    2025年7月25日 10:42 2025年7月25日 10:42
    link

    尊敬的开发者您好,麻烦您提供芯片型号、操作系统、操作系统内核版本、驱动版本、镜像版本以及代码文件上传到附件

  • arrow_forward

    Thread has been moved from 产品&运维.

    • By shuai_chen on 2025年7月30日 15:27.
arrow_upward Go to top
  • 沐曦开发者论坛
powered by misago