qzt111

一、本机软硬件环境
显卡硬件：MetaX N260 推理 GPU ×2
内核驱动：metax 版本 3.8.1，mx-smi 版本 2.3.1；硬件可被系统识别，mx-smi 显示MACA Version: unknown，缺失用户态运行库
操作系统：Kylin Linux Advanced Server V11 (Swan25)，CPU 架构 amd64
当前现状：仅内核驱动生效，缺少 MXMACA SDK，无法调用 GPU 运行推理服务
二、业务用途
部署 BGE 系列 Embedding 向量模型 + BGE-rerank 重排模型，基于官方 vLLM-metax 搭建兼容 OpenAI 接口的向量检索服务，用于内部 RAG 知识库。
三、需要获取的资源（精准匹配麒麟 V11 + maca3.8.0.x）
适配内核 3.8.1 版本、麒麟 V11 系统的 MXMACA 3.8.0.11 SDK 离线安装包
同版本匹配的torch-mx、vLLM-metax离线 whl 安装包
优先申请：曦思 N260 专用、预装全套环境的 maca:3.8.0.11-kylinv11-amd64 AI 类型 Docker 镜像