这个vllm启动报错的问题最后怎么解决的呢
这个vllm启动报错的问题最后怎么解决的呢
固件安装完后需要断电重启吗,还是直接reboot就行
镜像:cr.metax-tech.com/public-ai-release/maca/vllm-metax:0.26.0-maca.ai3.8.2.208-torch2.10-py312-ubuntu22.04-amd64
驱动版本:MACA Version: 3.8.2.6 BIOS 版本:2.3.7.0
运行命令及报错截图如下:
镜像启动命令为:docker run -itd \
--privileged \
--network=host \
--ipc=host \
--security-opt seccomp=unconfined \
--security-opt apparmor=unconfined \
--ulimit memlock=-1 \
--name vllm-test-python12 \
-v /home/data/models/:/workspace \
cr.metax-tech.com/public-ai-release/maca/vllm-metax:0.26.0-maca.ai3.8.2.208-torch2.10-py312-ubuntu22.04-amd64 \
bash
sglang镜像启动服务报错截图: