MetaX-Tech Developer Forum 论坛首页
  • 沐曦开发者
search
Sign in
  • chevron_right Threads
  • label type:需求/bug
  • label 已解决

沐曦N260部署Qwen3.6-27B-W8A8,麒麟v10, arm 机器

kermit
2026年10月28日
chat_bubble_outline 2
  • link
    kermit
    Members 1 post
    2026年10月28日 10:51 2026年10月28日 10:51
    link

    一、软硬件信息
    1. 服务器厂家:KunLun G5580X , CPU: Kunpeng 5250
    2. 沐曦GPU型号:GPU卡-Metax N260 GPU-64GB
    3. 操作系统内核版本:麒麟v10 ,内核版本 4.19
    4. 是否开启CPU虚拟化:未开启
    5. mx-smi回显:开启
    6. docker info回显:开启
    7. 镜像版本:暂时没有要求
    8. 启动容器命令:暂时没有要求
    9. 容器内执行命令:暂时没有要求

    二、问题现象
    只需要一个基础vllm 镜像,能运行qwen3.5及以上的多模态大模型。gitee没有对应的下载链接。

  • arrow_forward

    Thread has been moved from type:运维请求.

    • By shuai_chen on 2026年10月28日 17:03.
  • link
    shuai_chen
    Members 1029 posts
    2026年10月28日 17:05 2026年10月28日 17:05
    link

    尊敬的开发者您好,请通过论坛倒数右上角倒数第三个图标,开启个人主题,收件人写shuai_chen,提供

    mx-smi --show-sn
    
  • arrow_forward

    Thread has been moved from 解决中.

    • By shuai_chen on 2026年11月2日 10:16.
  • link
    WangJunSheng
    Members 1 post
    2026年11月5日 10:53 2026年11月5日 10:53
    link

    如何解决的呢?

arrow_upward Go to top
  • 沐曦开发者论坛
powered by misago