我想在单卡沐曦 N260 上部署 llama.cpp,加载 GGUF 模型,并使用 llama-server 提供 OpenAI 兼容 API,希望确认目前是否有经过验证的部署方案
Thread has been moved from 产品&运维.
尊敬的开发者您好,不支持
好的谢谢!
Thread has been moved from 解决中.