RAG问答延迟降低42%：chunk重构与embedding选型及rerank重排全记录
线上知识库问答系统在2000+文档规模下暴露出召回准确率低、幻觉严重等问题。本文记录了从v1.0到v3.0的三轮优化：将固定256字符chunk改为基于语义边界的动态切片，命中率提升18%；将BGE-small替换为bge-m3，召回Recall@5从68.5%提升至79.2%；最后引入bge-reranker-base重排，Top-1准确率从61%跃升至82%，整体首响延迟仅增加85ms（从68
终身学习安全学习者
Lv.1Techlearner，保持学习，也坚持亲手验证，技术方向以软件工程为主。持续整理性能优化、开发效率提升和可复用的工程方法；偏爱把复杂问题拆成清晰步骤。
1文章
0粉丝
0关注
0获赞