2. 环境依赖及MacaRT安装
2.1. 环境依赖
在使用MacaRT之前,必须确保服务器已安装曦云系列GPU板卡及其驱动程序。
2.2. 安装MacaRT
操作步骤
执行以下命令,快速安装MacaRT的deb软件安装包。deb软件安装包可以在相应GPU的软件发布包中找到。
dpkg -i onnxruntime-maca_*.deb
安装结束后,MacaRT相关文件均会安装到/opt/maca-ai/onnxruntime-maca目录中。
2.2.1. MacaRT C++
操作步骤
执行以下命令,快速验证是否已正确安装MacaRT C++库。
/opt/maca-ai/onnxruntime-maca/bin/maca_test --model_dir /opt/maca-ai/onnxruntime-maca/sample/test_add --check_mode 1
对获取到的test_add中模型在CpuEP和MacaEP上执行的结果进行对比,若对比结果相同则代表正确安装了MacaRT。
2.2.2. MacaRT Python
MacaRT Python版本的wheel安装包可在/opt/maca-ai/onnxruntime-maca/python中发现。 在安装wheel包之前,须确保当前Python版本和wheel包上标识的Python版本一致。当前为Python 3.8及Python 3.10。
操作步骤
执行以下命令,安装MacaRT Python版本wheel包:onnxruntime_gpu-1.12.0+mc*.whl。
pip install /opt/maca-ai/onnxruntime-maca/python/onnxruntime_gpu-1.12.0+mc*.whl
执行以下命令,快速验证是否已正确安装MacaRT。
python /opt/maca-ai/onnxruntime-maca/sample/python/maca_test.py -m /opt/maca-ai/onnxruntime-maca/sample/test_add
备注
MacaRT Python主要依赖numpy、protobuf等,在使用pip进行安装时会自动安装MacaRT Python的依赖包。
2.3. 使用MacaRT容器镜像
从发布的软件包中获取onnxruntime容器镜像并启动。onnxruntime容器镜像包含MacaRT及工具链。 容器镜像的使用,参见《曦云® 系列通用GPU用户指南》中“容器相关场景支持”章节。