MPS作为CUDA工具包中的多进程服务,提供了一组可替换且二进制兼容的CUDA API实现。通过MPS,用户能够充分利用GPU的并发能力。它允许多个进程共享同一个GPU context,从而减少了上下文切换带来的额外开销和时间线拉长的问题,沐曦是否支持MPS
MPS作为CUDA工具包中的多进程服务,提供了一组可替换且二进制兼容的CUDA API实现。通过MPS,用户能够充分利用GPU的并发能力。它允许多个进程共享同一个GPU context,从而减少了上下文切换带来的额外开销和时间线拉长的问题,沐曦是否支持MPS
支持的,只需要每个用户进程启动前配置一下环境变量(export MACA_MPS_MODE=1)就可以了,详细介绍见《曦云系列_通用计算GPU_运行时API编程指南》的“3.9. MPS多进程服务”。