kirito

202422070210 张涛涵
参加开源大模型应用 GPU 软件工程实践课程后，我对开源模式和技术实践的结合有了更务实的理解，专业能力也得到了多维度的提升。
课程让我切实体会到开源的价值。通过参与开源项目，我能直接接触最新技术成果，还能和全球开发者合作解决问题。在这个过程中，我意识到个人提交的代码优化方案，即使很微小，也能推动项目的整体发展，这种协作开发的模式极大提高了技术迭代的效率。
在具体技术学习上，收获同样丰富。学习检索增强生成（RAG）时，我掌握了将外部知识检索与大模型生成结合的方法，通过 GPU 优化实践，成功将检索与生成的响应时间缩短了 30%，显著提升了应用的实用性。
文本与图片 API 调用的学习，让我熟悉了不同数据类型的处理流程。在调用 Stable Diffusion、GPT 等模型 API 的过程中，我深入理解了接口设计规范、数据预处理和后处理的要点。规范的 API 设计能大幅减少开发工作量，让不同模块的集成更加顺畅。
在图片和视频大模型部分，我学习了视觉 Transformer 等模型架构，通过在 GPU 环境中部署实践，掌握了 CUDA、TensorRT 等加速技术。尤其是在处理视频数据时，合理分配 GPU 资源和采用数据并行策略，对提升处理效率至关重要。
思维链（CoT）和思维树（ToT）的实践应用，让我学会引导大模型处理复杂问题。通过分步推理，模型的决策准确性明显提高，这为大模型在复杂任务中的应用提供了新的思路。具身智能相关内容的学习，则让我看到大模型与智算结合的广阔前景，以及落地应用中需要解决的技术难题。
总的来说，这门课程让我既充实了理论知识，又提升了工程实践能力。后续我会继续深入学习开源大模型技术，将所学应用到实际项目中，争取在技术领域做出更多贡献。