MetaX-Tech Developer Forum
  • 沐曦开发者
search
Sign in

kelisis

  • Members
  • Joined 2025年6月27日
  • message 帖子
  • forum 主题
  • favorite 关注者
  • favorite_border Follows
  • person_outline 详细信息

kelisis has posted 8 messages.

  • See post chevron_right
    kelisis
    Members
    C500推理模型错误求助 已解决 2025年8月27日 17:25

    那请问针对需求超过64k的,有其他支持推理的方法吗

  • See post chevron_right
    kelisis
    Members
    C500推理模型错误求助 已解决 2025年8月27日 15:29

    请问是上限就是64k,不能再增加了吗?

  • See post chevron_right
    kelisis
    Members
    C500推理模型错误求助 已解决 2025年8月20日 15:58

    请问一下针对这个问题,可以通过增大shared memory大小解决吗,看起来像是超过64k大小的限制,如果可以的话怎么改大呢

  • See post chevron_right
    kelisis
    Members
    C500推理模型错误求助 已解决 2025年8月19日 12:02

    显卡: MetaX C500
    系统:ubuntu OS: Ubuntu 22.04.4 LTS
    kernel: 5.15.0-119-generic
    驱动:metax-driver-mxc500-2.33.0.9-deb-x86_64
    容器:cr.metax-tech.com/public-ai-release/c500/onnxruntime:maca2.32.0.6-torch2.1-py310-ubuntu22.04-amd64
    容器启动命令:docker run -itd --device=/dev/dri --device=/dev/mxcd --group-add video --network=host --name onnxrt --security-opt seccomp=unconfined --security-opt apparmor=unconfined --shm-size 100gb --ulimit memlock=-1 -v /data:/data -v /local:/local cr.metax-tech.com/public-ai-release/c500/onnxruntime:maca2.32.0.6-torch2.1-py310-ubuntu22.04-amd64

  • See post chevron_right
    kelisis
    Members
    C500推理模型错误求助 已解决 2025年8月18日 11:36

    目前推理模型依然遇到 Shared memory问题,但是推理程序不会挂,而是会导致之后下一个运行的核函数挂掉,请问这是什么原因,该如何解决?
    1755488000223.png

  • See post chevron_right
    kelisis
    Members
    C500推理模型错误求助 已解决 2025年7月9日 17:59
    @shuai_chen has written:

    尊敬的开发者您好,麻烦您提供芯片型号、操作系统、驱动版本、容器版本以及代码文件上传到附件

    显卡: MetaX C500
    系统:ubuntu OS: Ubuntu 22.04.4 LTS
    kernel: 5.15.0-119-generic
    驱动:metax-driver-mxc500-2.33.0.9-deb-x86_64
    容器:cr.metax-tech.com/public-ai-release/c500/onnxruntime:maca2.32.0.6-torch2.1-py310-ubuntu22.04-amd64(onnxrt推理camera_backbone)
    cr.metax-tech.com/public-ai-release/c500/mmcv:maca2.32.0.5-torch2.1-py310-ubuntu22.04-amd64(python推理稀疏卷积)

  • See post chevron_right
    kelisis
    Members
    C500推理模型错误求助 已解决 2025年7月8日 13:15
    @shuai_chen has written:

    尊敬的开发者您好,可以提供相关推理代码以及模型吗

    onnxrt推理代码按照《曦云系列_通用计算GPU_AI推理用户手册_CN_V08》,模型来自github.com/mit-han-lab/bevfusion 中的bev模型
    1751947434872.png

    1751947473356.png

  • See post chevron_right
    kelisis
    Members
    C500推理模型错误求助 已解决 2025年7月7日 19:31

    使用onnxrt的C++api推理onnx模型时的报错,这是用户端能解决的bug吗,要怎么去排查呢?
    1751868654847.png
    1751868698564.png

    此外还有搭建稀疏卷积推理时的报错,通过《曦云系列_通用计算GPU_运行时API编程指南_CN_V12》查阅到pri_mem_size最大也只能设置到36KB,那么该如何实现稀疏卷积65KB要求的推理呢?
    ff42fab86a7dcd09c81c15e95d6e3e7.png
    ae13f15e49913cedd83bb52d44d7f8a.png

  • 沐曦开发者论坛
powered by misago