MetaX-Tech Developer Forum 论坛首页
  • 沐曦开发者
search
Sign in

are_you_ok

  • Members
  • Joined 2026年9月16日
  • message 帖子
  • forum 主题
  • favorite 关注者
  • favorite_border Follows
  • person_outline 详细信息

are_you_ok has posted 7 messages.

  • See post chevron_right
    are_you_ok
    Members
    C600系列在ARM架构下的相关软件包如何获取 已解决 2026年9月21日 11:43

    C600系列在ARM架构下的相关软件包,官方下载界面没看到,请问哪里如何获取到image.png

  • See post chevron_right
    are_you_ok
    Members
    沐曦对应cuBLAS/cuDNN替代库 已解决 2026年9月20日 15:17

    这个vllm启动报错的问题最后怎么解决的呢

  • See post chevron_right
    are_you_ok
    Members
    曦思N300用vllm镜像跑Qwen3.5-27B报错,用sglang镜像跑也报错 已解决 2026年9月17日 11:33

    安装固件重启后,运行还是报一样的错,
    固件升级命令如下图:image.png
    dmesg报错如下:image.png
    vllm报错如下:image.png

  • See post chevron_right
    are_you_ok
    Members
    曦思N300用vllm镜像跑Qwen3.5-27B报错,用sglang镜像跑也报错 已解决 2026年9月17日 11:13

    固件安装完后需要断电重启吗,还是直接reboot就行

  • See post chevron_right
    are_you_ok
    Members
    曦思N300用vllm镜像跑Qwen3.5-27B报错,用sglang镜像跑也报错 已解决 2026年9月17日 10:59

    是有一些版本不匹配的报错,麻烦您看看image.png
    当前的版本是这个image.png

  • See post chevron_right
    are_you_ok
    Members
    曦思N300用vllm镜像跑Qwen3.5-27B报错,用sglang镜像跑也报错 已解决 2026年9月17日 10:08

    用fp16的模型也会报一样的错,如下图:
    image.png

  • See post chevron_right
    are_you_ok
    Members
    曦思N300用vllm镜像跑Qwen3.5-27B报错,用sglang镜像跑也报错 已解决 2026年9月16日 19:00

    镜像:cr.metax-tech.com/public-ai-release/maca/vllm-metax:0.26.0-maca.ai3.8.2.208-torch2.10-py312-ubuntu22.04-amd64
    驱动版本:MACA Version: 3.8.2.6 BIOS 版本:2.3.7.0 image.png
    运行命令及报错截图如下:image.png
    镜像启动命令为:docker run -itd \
    --privileged \
    --network=host \
    --ipc=host \
    --security-opt seccomp=unconfined \
    --security-opt apparmor=unconfined \
    --ulimit memlock=-1 \
    --name vllm-test-python12 \
    -v /home/data/models/:/workspace \
    cr.metax-tech.com/public-ai-release/maca/vllm-metax:0.26.0-maca.ai3.8.2.208-torch2.10-py312-ubuntu22.04-amd64 \
    bash
    sglang镜像启动服务报错截图:image.png

  • 沐曦开发者论坛
powered by misago