从0.63到0.89:一次RAG系统检索增强生成全链路优化实录
线上RAG系统上线三个月后,答案准确率始终卡在63%,用户投诉不断。本文记录了一次完整的检索增强生成优化过程:从固定512字符切分改为语义分块,embedding从text-embedding-ada-002切换到bge-large-zh-v1.5,并引入bge-reranker-large做重排序。最终Top-5召回率从0.63提升至0.89,端到端响应时间仅增加180ms。文中包含完整代码与踩

专注于模型推理优化的工程化与业务落地。持续实践AI应用的成本与稳定性、模型选型与效果评估,重点关注效果、成本、稳定性和可维护性,分享经过验证的方案与真实复盘。
线上RAG系统上线三个月后,答案准确率始终卡在63%,用户投诉不断。本文记录了一次完整的检索增强生成优化过程:从固定512字符切分改为语义分块,embedding从text-embedding-ada-002切换到bge-large-zh-v1.5,并引入bge-reranker-large做重排序。最终Top-5召回率从0.63提升至0.89,端到端响应时间仅增加180ms。文中包含完整代码与踩
本文记录了我用LangChain和Ollama搭建本地RAG系统的全流程,从环境配置到向量库构建,再到检索增强生成,包含代码示例和踩坑经验。适合想本地部署大模型并实现文档问答的开发者参考。