3. 功能支持

mcApex以兼容Apex的原生使用方式为设计目标，当前支持部分Apex的接口。

本章参照Apex官方文档内容，介绍mcApex各模块使用的兼容性和注意事项。其中：

支持：支持并兼容原生用法
部分支持：部分支持原生用法，或API行为和原生用法有区别

3.1. apex.fused_dense.FusedDense

支持

3.2. apex.transformer.functional.FusedScaleMaskSoftmax

支持

3.3. apex.transformer.functional.fused_apply_rotary_pos_emb

支持

3.4. apex.transformer.functional.fused_apply_rotary_pos_emb_cached

支持

3.5. apex.transformer.functional.fused_apply_rotary_pos_emb_thd

支持

3.6. apex.normalization.FusedLayerNorm

支持

3.7. apex.normalization.FusedRMSNorm

支持

3.8. apex.normalization.MixedFusedLayerNorm

支持

3.9. apex.normalization.MixedFusedRMSNorm

支持

3.10. apex.contrib.layer_norm.FastLayerNorm

支持