202421011332 沈忠源
通过这段时间对开源大模型应用的深入学习，我对大模型在实际工程中的价值和落地方式有了更加清晰的认识。与以往将大模型视为“前沿科研成果”的抽象印象不同，这次的实践让我意识到，开源大模型已经具备了很强的可用性和可控性，关键在于开发者如何以合适的方式加以集成和运用。一个重要的收获是对开源模型生态的认知拓展。无论是像LLaMA、B智算chuan这类通用模型，还是面向特定任务优化的精简版本，它们背后的社区活跃度和技术文档质量都直接影响到开发效率。通过查阅 Hugging Face、ModelScope 等平台，我学会了如何对比模型参数、评估推理效率，并选择最适合某个场景的模型版本。开源不等于复杂，相反，只要掌握好工具链和调用方式，很多模型都可以快速接入到原有业务中。此外，这次学习过程中我对“模型即服务”的理念有了更深入的体会。将模型托管在本地或云端，通过 API 对外提供服务，使得大模型真正具备了像数据库、搜索引擎那样的“基础设施”特征。这种服务化的思路，让前端、移动端等轻量应用也能无缝接入智算能力，实现功能层的灵活组合。与此同时，也促使我更加重视模型性能指标（如响应延迟、内存占用）对用户体验的影响。另一个让我印象深刻的方面是上下游系统的协同。仅仅有一个大模型并不能解决所有问题，如何与前端界面、数据存储、用户交互、权限控制等系统结合，是工程化落地必须思考的。举个例子，为了实现一个基于知识库的问答功能，不仅需要设计好RAG流程，还要考虑知识库构建、文档分块策略、召回准确率、缓存机制等多个细节，只有把这些环节打通，系统才真正具备稳定、可靠的智能能力。
2025年7月6日