目录

• 1. 概述
  • 1.1. 适用产品
• 2. C++ 语言扩展
  • 2.1. 函数执行空间标识符
    • 2.1.1. __global__
    • 2.1.2. __device__
    • 2.1.3. __host__
    • 2.1.4. 未定义的行为
    • 2.1.5. __noinline__与__forceinline__
  • 2.2. 变量存储空间标识符
    • 2.2.1. __device__
    • 2.2.2. __constant__
    • 2.2.3. __shared__
    • 2.2.4. __managed__
  • 2.3. 内置类型
    • 2.3.1. maca_bfloat16
      • 2.3.1.1. maca_bfloat162 与 maca_bfloat16 关系
    • 2.3.2. Half-precision floating-point format（半精度浮点格式）
      • 2.3.2.1. IEEE 754 - 2008 半精度二进制浮点格式：binary16
      • 2.3.2.2. 指数编码
      • 2.3.2.3. 半精度示例
      • 2.3.2.4. half2 与 half 关系
  • 2.4. 内置向量类型
    • 2.4.1. char，short，int，long，longlong，float，double
    • 2.4.2. dim3
  • 2.5. 内置变量
    • 2.5.1. gridDim
    • 2.5.2. blockIdx
    • 2.5.3. blockDim
    • 2.5.4. threadIdx
    • 2.5.5. warpSize
  • 2.6. Memory Fence函数
  • 2.7. 同步函数
  • 2.8. 数学函数
    • 2.8.1. 半精度（half）算术函数
    • 2.8.2. half2算术函数
    • 2.8.3. half比较函数
    • 2.8.4. half2比较函数
    • 2.8.5. 半精度转换与数据移动函数
    • 2.8.6. half数学函数
    • 2.8.7. half2数学函数
    • 2.8.8. Bfloat16算术函数
    • 2.8.9. Bfloat162算术函数
    • 2.8.10. Bfloat16比较函数
    • 2.8.11. Bfloat162比较函数
    • 2.8.12. Bfloat16精度转换与数据移动函数
    • 2.8.13. Bfloat16数学函数
    • 2.8.14. Bfloat162数学函数
    • 2.8.15. 单精度数学函数
    • 2.8.16. 双精度数学函数
    • 2.8.17. 整数型度数学函数
    • 2.8.18. 单精度intrinsic
    • 2.8.19. 双精度intrinsic
    • 2.8.20. 整数型intrinsic
    • 2.8.21. 类型转换intrinsic
    • 2.8.22. SIMD intrinsic
  • 2.9. Texture函数
    • 2.9.1. Texture Object API
      • 2.9.1.1. tex1Dfetch()
      • 2.9.1.2. tex1D()
    • 2.9.2. Texture Reference API
      • 2.9.2.1. tex1Dfetch()
      • 2.9.2.2. tex1D()
  • 2.10. 只读数据缓存区加载函数
  • 2.11. 使用缓存提示的加载函数
  • 2.12. 使用缓存提示的存储函数
  • 2.13. 时间函数
  • 2.14. Atomic函数
    • 2.14.1. 算术函数
      • 2.14.1.1. atomicAdd()
      • 2.14.1.2. atomicSub()
      • 2.14.1.3. atomicExch()
      • 2.14.1.4. atomicMin()
      • 2.14.1.5. atomicMax()
      • 2.14.1.6. atomicInc()
      • 2.14.1.7. atomicDec()
      • 2.14.1.8. atomicCAS()
    • 2.14.2. 位运算函数
      • 2.14.2.1. atomicAnd()
      • 2.14.2.2. atomicOr()
      • 2.14.2.3. atomicXor()
  • 2.15. 地址空间谓词函数
    • 2.15.1. __isGlobal()
    • 2.15.2. __isShared()
    • 2.15.3. __isLocal()
  • 2.16. 地址空间转换函数
    • 2.16.1. __cvta_generic_to_global()
    • 2.16.2. __cvta_generic_to_shared()
    • 2.16.3. __cvta_generic_to_constant()
    • 2.16.4. __cvta_generic_to_local()
    • 2.16.5. __cvta_global_to_generic()
    • 2.16.6. __cvta_shared_to_generic()
    • 2.16.7. __cvta_constant_to_generic()
    • 2.16.8. __cvta_local_to_generic()
  • 2.17. Alloca函数
    • 2.17.1. alloca()
  • 2.18. 编译器内置函数
    • 2.18.1. __builtin_assume_aligned()
    • 2.18.2. __builtin_assume()
    • 2.18.3. __assume()
    • 2.18.4. __builtin_expect()
    • 2.18.5. __builtin_unreachable()
    • 2.18.6. __builtin_mxc_byte_perm
    • 2.18.7. __builtin_mxc_load_global_async
    • 2.18.8. __builtin_mxc_arrive
    • 2.18.9. __builtin_mxc_arrive_gvmcnt
    • 2.18.10. __builtin_mxc_arrive_bsmcnt
    • 2.18.11. __builtin_mxc_barrier
    • 2.18.12. __builtin_mxc_barrier_inst
    • 2.18.13. __builtin_mxc_ldg_*_predicator
    • 2.18.14. __builtin_mxc_stg_*_predicator
  • 2.19. Warp Vote函数
  • 2.20. Warp Match函数
    • 2.20.1. 提要
    • 2.20.2. 描述
  • 2.21. Warp Reduce函数
    • 2.21.1. 提要
    • 2.21.2. 描述
  • 2.22. Warp Shuffle函数
    • 2.22.1. 提要
    • 2.22.2. 描述
    • 2.22.3. 例子
  • 2.23. Nanosleep函数
    • 2.23.1. 提要
    • 2.23.2. 描述
    • 2.23.3. 例子
  • 2.24. Warp matrix函数
    • 2.24.1. 描述
    • 2.24.2. 其他浮点类型
    • 2.24.3. 双精度类型
    • 2.24.4. 元素类型和矩阵形状
    • 2.24.5. 示例
  • 2.25. Asynchronous Data Copies
    • 2.25.1. memcpy_async API
    • 2.25.2. 没有memcpy_async
    • 2.25.3. 有memcpy_async
  • 2.26. Assert函数
  • 2.27. Trap函数
  • 2.28. Breakpoint函数
  • 2.29. 格式化输出
    • 2.29.1. Format Specifiers
    • 2.29.2. 限制
    • 2.29.3. 例子
  • 2.30. 动态Global内存操作
    • 2.30.1. 堆内存分配
    • 2.30.2. 与host内存交互的api
    • 2.30.3. 例子
      • 2.30.3.1. Per Thread 分配
      • 2.30.3.2. Per Thread block 分配
  • 2.31. 执行配置
  • 2.32. Launch Bounds（启动边界）
  • 2.33. #pragma unroll
  • 2.34. 关于内联汇编
• 3. Cooperative Groups
  • 3.1. 介绍
  • 3.2. 编程模型概念
    • 3.2.1. 组示例
  • 3.3. 组类型
    • 3.3.1. 隐式组
      • 3.3.1.1. Thread Block Group
      • 3.3.1.2. Grid Group
      • 3.3.1.3. Multi Grid Group
    • 3.3.2. 显式组
      • 3.3.2.1. Thread Block Tile
      • 3.3.2.2. Coalesced Groups
  • 3.4. 组分割
    • 3.4.1. tiled_partition
    • 3.4.2. labeled_partition
    • 3.4.3. binary_partition
  • 3.5. 组操作集合
    • 3.5.1. 同步
      • 3.5.1.1. sync
    • 3.5.2. 数据移动
      • 3.5.2.1. memcpy_async
  • 3.6. Grid 同步
  • 3.7. 多设备同步
• 4. C++ 语言支持
  • 4.1. C++98 支持状态
  • 4.2. C++11支持状态
  • 4.3. C++14支持状态
  • 4.4. C++17以及之后标准支持状态