MetaX-Tech Developer Forum
  • 沐曦开发者
search
Sign in
  • chevron_right Threads
  • label 公共

沐曦GPU是否支持CUDA工具包中的MPS服务

Jerome
2025年8月22日
chat_bubble_outline 1
  • link
    Jerome
    Members 1 post
    2025年8月22日 14:54 2025年8月22日 14:54
    link

    MPS作为CUDA工具包中的多进程服务,提供了一组可替换且二进制兼容的CUDA API实现。通过MPS,用户能够充分利用GPU的并发能力。它允许多个进程共享同一个GPU context,从而减少了上下文切换带来的额外开销和时间线拉长的问题,沐曦是否支持MPS

  • link
    inkstone
    Members 1 post
    2025年8月22日 20:41 2025年8月22日 20:41
    link

    支持的,只需要每个用户进程启动前配置一下环境变量(export MACA_MPS_MODE=1)就可以了,详细介绍见《曦云系列_通用计算GPU_运行时API编程指南》的“3.9. MPS多进程服务”。

arrow_upward Go to top
  • 沐曦开发者论坛
powered by misago