最近在做一个基于 LangChain + FAISS 的 RAG 问答 demo，文档大概几千页。检索用向量相似度 top-k=5，但发现召回的 chunk 经常有重复内容或者不太相关的段落，回答质量忽好忽坏。看网上说加一个 bge-reranker 做重排序会好很多，但我试了一下好像提升也就那样，有时候反而把原来对的排后面了。想问问大家实际项目里重排序这一步到底值不值得加？是模型选得不对还是我 pipeline 有问题？有没有大佬分享一下经验，谢谢！
最近在做一个基于 LangChain + FAISS 的 RAG 问答 demo，文档大概几千页。检索用向量相似度 top-k=5，但发现召回的 chunk 经常有重复内容或者不太相关的段落，回答质量忽好忽坏。看网上说加一个 bge-reranker 做重排序会好很多，但我试了一下好像提升也就那样，有时候反而把原来对的排后面了。想问问大家实际项目里重排序这一步到底值不值得加？是模型选得不对还是我 pipeline 有问题？有没有大佬分享一下经验，谢谢！
暂无回复，快来抢沙发吧