最近在用LangChain搭一个简单的RAG问答系统,知识库里大概有几千份文档,主要是公司内部的技术手册。但发现一个问题:查询稍微复杂一点(比如“数据库连接超时怎么排查”),召回的chunk就特别乱,经常把不相干的内容排前面。我已经试过调大chunk size和换embedding模型(用的text-embedding-ada-002),但效果不明显。是不是我切分策略有问题?还是说需要加一层reranker?有没有做过类似优化的大佬指点一下,感觉卡在这里有点头疼。
楼主
2026-07-17
RAG系统里知识库太大时,检索结果总是不准怎么办?
请 登录 后发表回复
全部回复
共 182 条
2楼
2天前
几千份文档的话,先加个reranker试试,bge-reranker效果挺明显的。
3楼
10小时前
几千份文档只靠向量检索确实容易翻车,ada-002对这种专业术语密集的query区分度本来就一般。我建议你先加个reranker试试,bge-reranker或者cohere的都行,召回top50再重排top5,效果提升挺明显的。另外切分策略也很关键,技术手册最好按标题层级切,别用固定长度硬切,不然一个完整的排查步骤被拆散就很难匹配上了。