张洪旗 202321140413
通过《开源大模型应用软件工程实践》课程的学习,我对大模型技术的工程化应用有了系统性的认识,并积累了宝贵的实践经验。课程内容从理论到实践层层深入,涵盖了大模型原理、开源工具链、GPU加速技术以及检索增强生成(RAG)等前沿应用,让我深刻体会到开源生态与工程实践结合的价值。在技术层面,课程让我掌握了RAG技术的核心逻辑。通过将外部知识检索与大模型生成能力结合,我实现了对模型知识时效性和领域适应性的优化。例如,在实践项目中,我利用向量数据库和混合检索策略,显著提升了问答系统的准确率,同时避免了微调的高成本问题。此外,通过GPU加速技术的实践,我学会了如何优化模型推理效率,这对实际业务场景中的性能提升至关重要。课程还让我认识到工程化思维的重要性。从API设计规范到多模块协同开发,我学会了如何平衡模型效果与系统可维护性。例如,在调用文本和视觉大模型API时,合理设计数据预处理流程和错误处理机制,能够大幅降低后续维护成本。同时,课程中关于思维链和分布式计算的案例,让我对大模型处理复杂任务的潜力有了更深刻的理解。总体而言,这门课程不仅拓宽了我的技术视野,也提升了我的工程实践能力。未来,我将把所学知识应用到实际项目中,进一步探索大模型在垂直领域的落地可能性,为开源社区和技术创新贡献自己的力量。