MetaX-Tech Developer Forum
  • 沐曦开发者
search
Sign in

xiaoliyuan

  • Members
  • Joined 2025年7月14日
  • message 帖子
  • forum 主题
  • favorite 关注者
  • favorite_border Follows
  • person_outline 详细信息

xiaoliyuan has posted 1 message.

  • See post chevron_right
    xiaoliyuan
    Members
    c500在线推理14B模型卡死 信息沟通 2025年7月24日 16:53

    在c500上运行Qwen3-14B的模型,用的官方的模型和官方的代码
    运行步骤参考使用文档developer.metax-tech.com/doc/242
    只改了模型部分,其他部分一模一样,demo中qwen2.5-7B模型可以正常跑而且跑的很快
    Qwen3-14B仅能回答1+1之类的简单问题,且提问过程时达到50%的gpu使用率,但是稍长的问题就会卡死不动,gpu占用率为0%,想问一下这个是什么问题

  • 沐曦开发者论坛
powered by misago