那请问针对需求超过64k的,有其他支持推理的方法吗
请问一下针对这个问题,可以通过增大shared memory大小解决吗,看起来像是超过64k大小的限制,如果可以的话怎么改大呢
显卡: MetaX C500
系统:ubuntu OS: Ubuntu 22.04.4 LTS
kernel: 5.15.0-119-generic
驱动:metax-driver-mxc500-2.33.0.9-deb-x86_64
容器:cr.metax-tech.com/public-ai-release/c500/onnxruntime:maca2.32.0.6-torch2.1-py310-ubuntu22.04-amd64
容器启动命令:docker run -itd --device=/dev/dri --device=/dev/mxcd --group-add video --network=host --name onnxrt --security-opt seccomp=unconfined --security-opt apparmor=unconfined --shm-size 100gb --ulimit memlock=-1 -v /data:/data -v /local:/local cr.metax-tech.com/public-ai-release/c500/onnxruntime:maca2.32.0.6-torch2.1-py310-ubuntu22.04-amd64
显卡: MetaX C500
系统:ubuntu OS: Ubuntu 22.04.4 LTS
kernel: 5.15.0-119-generic
驱动:metax-driver-mxc500-2.33.0.9-deb-x86_64
容器:cr.metax-tech.com/public-ai-release/c500/onnxruntime:maca2.32.0.6-torch2.1-py310-ubuntu22.04-amd64(onnxrt推理camera_backbone)
cr.metax-tech.com/public-ai-release/c500/mmcv:maca2.32.0.5-torch2.1-py310-ubuntu22.04-amd64(python推理稀疏卷积)
onnxrt推理代码按照《曦云系列_通用计算GPU_AI推理用户手册_CN_V08》,模型来自github.com/mit-han-lab/bevfusion 中的bev模型