在踏入《开源大模型应用实践》课程之前，我对诸如RAG技术、智能体架构等专业术语几乎一窍不通。然而，这门课程如同一盏明灯，照亮了我前行的道路，让我从最初的迷茫逐渐构建起对开源大模型应用的初步理解。
课程中对检索增强生成技术的讲解，犹如为我打开了一扇通往知识宝库的大门。通过实际案例，我清晰地看到了“知识入库 - 向量检索 - 融合生成”这一完整流程：将各类文档经过处理转化为向量并存入数据库，当问题输入时，系统先检索相关知识，再让大模型结合这些知识生成答案。这不仅让我明白了大模型如何借助外部知识提升回答的准确性，还让我认识到这种技术在解决“幻觉问题”、生成可靠内容方面的巨大价值，尤其在对准确信息有严格要求的场景中，显得尤为重要。
在开源大语言模型的调用方式上，课程为我们介绍了两种主要途径。原生API调用虽然需要配置相关参数并发送请求，但其深度定制的能力使其在特定场景下极具优势；而SDK封装调用则通过简化流程，让开发者只需通过函数接口即可实现调用，大大降低了开发门槛，更适合快速开发。尽管我对其中的技术细节仍需进一步学习，但已能感受到这两种方式各具特色，为不同开发需求提供了多样化的选择。
课程中对智能体架构与模型上下文协议协同机制的讲解，无疑是整个课程中最复杂但也最精彩的部分。智能体架构涵盖了规划、记忆、工具调用和LLM等多个模块，能够将复杂任务拆解为多个子任务，并逐步完成，其记忆模块还能确保交互的连贯性；而MCP协议则为多智能体交互制定了统一的标准，保障它们能够高效协作。这让我深刻认识到，大模型不仅能够生成文本，还能像一个真正的“智能助手”一样，完成更为复杂的任务。
在课程的实验环节，我们亲身体验了API开发。通过调用不同模型的API，我直观地感受到良好的API接口能够极大地简化开发流程，让开发者如同搭积木般轻松组合出智能应用，这让我对大模型的实际应用有了更加具体和深入的认识。
此外，课程中关于硬件对大模型影响的内容也让我受益匪浅。老师详细讲解了CUDA核心、Tensor Core等硬件特性如何优化大模型的推理速度，并通过实验对比了不同情况下GPU的利用率变化。沐曦的讲师们还介绍了其GPU在大模型计算中的独特优势，让我深刻了解到硬件性能对于大模型高效运行的重要性，就像一辆强大的“引擎”，能够推动大模型发挥出更出色的性能。
通过这门课程的学习，我从对开源大模型技术的完全陌生，逐步了解了RAG技术、模型调用方式、智能体架构等关键知识点，也深刻认识到开源生态和硬件支撑在大模型发展中的重要作用。这门课程不仅为我打开了通往开源大模型世界的大门，更让我对未来在这个领域的探索充满了信心和期待。
2025年7月7日