您好,我在使用容器中的vllm0.8.2部署大模型进行推理时,无法采集profiler数据——设置VLLM_TORCH_PROFILER_DIR环境变量后会卡死。请问该如何解决?
尊敬的开发者您好,请您使用开发者社区镜像中心最新vllm-metax镜像尝试。
Thread has been moved from 产品&运维.
Thread has been moved from 解决中.