MetaX-Tech Developer Forum 论坛首页
  • 沐曦开发者
search
Sign in
  • chevron_right Threads
  • label 产品&运维
  • label 已解决

C500推理模型错误求助

kelisis
2025年7月7日
chat_bubble_outline 14
  • link
    kelisis
    Members 8 posts
    2025年7月7日 19:31 2025年7月7日 19:31
    link

    使用onnxrt的C++api推理onnx模型时的报错,这是用户端能解决的bug吗,要怎么去排查呢?
    1751868654847.png
    1751868698564.png

    此外还有搭建稀疏卷积推理时的报错,通过《曦云系列_通用计算GPU_运行时API编程指南_CN_V12》查阅到pri_mem_size最大也只能设置到36KB,那么该如何实现稀疏卷积65KB要求的推理呢?
    ff42fab86a7dcd09c81c15e95d6e3e7.png
    ae13f15e49913cedd83bb52d44d7f8a.png

  • link
    shuai_chen
    Members 314 posts
    2025年7月8日 10:24 2025年7月8日 10:24
    link

    尊敬的开发者您好,可以提供相关推理代码以及模型吗

  • link
    kelisis
    Members 8 posts
    2025年7月8日 13:15 2025年7月8日 13:15
    link
    @shuai_chen has written:

    尊敬的开发者您好,可以提供相关推理代码以及模型吗

    onnxrt推理代码按照《曦云系列_通用计算GPU_AI推理用户手册_CN_V08》,模型来自github.com/mit-han-lab/bevfusion 中的bev模型
    1751947434872.png

    1751947473356.png

  • link
    shuai_chen
    Members 314 posts
    2025年7月9日 16:48 2025年7月9日 16:48
    link

    尊敬的开发者您好,麻烦您提供芯片型号、操作系统、驱动版本、容器版本以及代码文件上传到附件

  • arrow_forward

    Thread has been moved from 公共.

    • By Yuan_Tu on 2025年7月9日 17:59.
  • link
    kelisis
    Members 8 posts
    2025年7月9日 17:59 2025年7月9日 17:59
    link
    @shuai_chen has written:

    尊敬的开发者您好,麻烦您提供芯片型号、操作系统、驱动版本、容器版本以及代码文件上传到附件

    显卡: MetaX C500
    系统:ubuntu OS: Ubuntu 22.04.4 LTS
    kernel: 5.15.0-119-generic
    驱动:metax-driver-mxc500-2.33.0.9-deb-x86_64
    容器:cr.metax-tech.com/public-ai-release/c500/onnxruntime:maca2.32.0.6-torch2.1-py310-ubuntu22.04-amd64(onnxrt推理camera_backbone)
    cr.metax-tech.com/public-ai-release/c500/mmcv:maca2.32.0.5-torch2.1-py310-ubuntu22.04-amd64(python推理稀疏卷积)

    insert_drive_file
    onnxrt_infer.txt

    Text, 2.5 KB, uploaded by kelisis on 2025年7月9日.

    insert_drive_file
    spconv_infer.txt

    Text, 1.3 KB, uploaded by kelisis on 2025年7月9日.

  • link
    shuai_chen
    Members 314 posts
    2025年7月11日 17:47 2025年7月11日 17:47
    link

    尊敬的开发者您好,问题正在进行分析。若需加快节奏,请联系对接的sales。

  • arrow_forward

    Thread has been moved from 产品&运维.

    • By shuai_chen on 2025年7月30日 15:27.
  • link
    kelisis
    Members 8 posts
    2025年8月18日 11:36 2025年8月18日 11:36
    link

    目前推理模型依然遇到 Shared memory问题,但是推理程序不会挂,而是会导致之后下一个运行的核函数挂掉,请问这是什么原因,该如何解决?
    1755488000223.png

  • link
    shuai_chen
    Members 314 posts
    2025年8月18日 11:45 2025年8月18日 11:45
    link

    尊敬的开发者您好,麻烦提供芯片型号、操作系统、操作系统内核版本、驱动版本、Docker版本、镜像名称、容器启动命令、程序启动命令。若需加快节奏,请联系对接的sales。

  • link
    kelisis
    Members 8 posts
    2025年8月19日 12:02 2025年8月19日 12:02
    link

    显卡: MetaX C500
    系统:ubuntu OS: Ubuntu 22.04.4 LTS
    kernel: 5.15.0-119-generic
    驱动:metax-driver-mxc500-2.33.0.9-deb-x86_64
    容器:cr.metax-tech.com/public-ai-release/c500/onnxruntime:maca2.32.0.6-torch2.1-py310-ubuntu22.04-amd64
    容器启动命令:docker run -itd --device=/dev/dri --device=/dev/mxcd --group-add video --network=host --name onnxrt --security-opt seccomp=unconfined --security-opt apparmor=unconfined --shm-size 100gb --ulimit memlock=-1 -v /data:/data -v /local:/local cr.metax-tech.com/public-ai-release/c500/onnxruntime:maca2.32.0.6-torch2.1-py310-ubuntu22.04-amd64

  • link
    kelisis
    Members 8 posts
    2025年8月20日 15:58 2025年8月20日 15:58
    link

    请问一下针对这个问题,可以通过增大shared memory大小解决吗,看起来像是超过64k大小的限制,如果可以的话怎么改大呢

  • link
    shuai_chen
    Members 314 posts
    2025年8月27日 15:00 2025年8月27日 15:00
    link

    尊敬的开发者您好,shared memory大小不能超过64k

  • link
    kelisis
    Members 8 posts
    2025年8月27日 15:29 2025年8月27日 15:29
    link

    请问是上限就是64k,不能再增加了吗?

  • link
    shuai_chen
    Members 314 posts
    2025年8月27日 15:43 2025年8月27日 15:43
    link

    尊敬的开发者您好,shared memory大小不能超过64k

  • link
    kelisis
    Members 8 posts
    2025年8月27日 17:25 2025年8月27日 17:25
    link

    那请问针对需求超过64k的,有其他支持推理的方法吗

  • link
    shuai_chen
    Members 314 posts
    2025年8月27日 17:44 2025年8月27日 17:44
    link

    尊敬的开发者您好,请联系对应的sales进行跟进

arrow_upward Go to top
  • 沐曦开发者论坛
powered by misago