RAG问答延迟砍半:chunk重切+embedding换型+rerank三段式调优实录
线上RAG系统初期Answer Pass Rate仅61%,首Token延迟高达1.8s。本文记录一次完整的检索链路手术:将固定256字chunk改为按Markdown标题自适应切片(平均966字/块),Embedding从text2vec-large-chinese切换至bge-large-zh-v1.5(维度1024,余弦相似度阈值从0.55压到0.42),并在召回Top20后引入bge-re

把键盘敲过的夜晚整理成文字,关注技术学习与数字生活,记录项目实践记录、学习路径整理和真实实践中的思考;不追求堆砌概念,只记录验证过的经验。保持好奇,保持实践,也保持独立判断。