原帖入口:
sw-developer.metax-tech.com/forum.php?mod=viewthread&tid=144&extra=page%3D1&_dsign=f95fede1
本帖最后由 inkstone 于 2025-4-6 15:59 编辑
昨晚尝试将 Karpathy 的轻量级大模型项目 llm.c 适配到沐曦GPU平台。整个适配过程异常顺利,轻松实现了 CUDA 代码的跨平台运行。
✅ 通过cu-bridge工具链实现CUDA到MXMACA的自动转换
✅ 全程仅修改2处,保持原项目架构不变
- 修改 mfu.h
:宏定义禁用 USE_NVML
并注释掉 #include <nvml.h>
。
- 修改 Makefile
:删除 -t=0
。
✅ 完整保留所有训练/推理功能
适配后的完整项目已发布至码云:🔗 gitee.com/Inkstoneydz/llm.c
特别感谢开源项目 cu-bridge 的底层支持,已将上述 2 处修改私信反馈给cu-bridge发布者p4ul,期待未来版本能够实现零修改适配!