MetaX-Tech Developer Forum 论坛首页
  • 沐曦开发者
search
Sign in
  • chevron_right Threads
  • label 产品&运维
  • label 已解决

N260 是否支持 llama.cpp GPU 推理,有没有经过验证的版本和部署方式

lishuai
2026年9月17日
chat_bubble_outline 2
  • link
    lishuai
    Members 54 posts
    2026年9月17日 12:47 2026年9月17日 12:47
    link

    我想在单卡沐曦 N260 上部署 llama.cpp,加载 GGUF 模型,并使用 llama-server 提供 OpenAI 兼容 API,希望确认目前是否有经过验证的部署方案

  • arrow_forward

    Thread has been moved from 产品&运维.

    • By shuai_chen on 2026年9月17日 13:40.
  • link
    shuai_chen
    Members 949 posts
    2026年9月17日 13:41 2026年9月17日 13:41
    link

    尊敬的开发者您好,不支持

  • link
    lishuai
    Members 54 posts
    2026年9月17日 13:42 2026年9月17日 13:42
    link

    好的谢谢!

  • arrow_forward

    Thread has been moved from 解决中.

    • By shuai_chen on 2026年9月23日 10:12.
arrow_upward Go to top
  • 沐曦开发者论坛
powered by misago