硬件环境:飞腾C5000S+沐曦C500在麒麟V10服务器中,操作系统是:cat /etc/os-release
NAME="Kylin Linux Advanced Server"
VERSION="V10 (Halberd), 使用的docker镜像:maca-pytorch:3.7.0.7-torch2.4-py310-kylinv10-arm64 , 启动后设置仅仅使用一个GPU,然后初始化torch, 内存占用一下子上升到20G+, 初始化:elif importlib.util.find_spec("torch") is not None:
import torch
dev = torch.device("cuda:0")
torch.empty((1,), device=dev)
torch.cuda.synchronize(device=dev)
print("GPU warmup finished, cuda_lazy_init completed")