RAG检索总是召不回关键实体，重排序后效果更差了怎么办？

大概率是切分把语义切碎了，试试按标题或段落结构切，再不行就上混合检索。

先试试混合检索吧，纯向量对专有名词确实容易飘，再加个BM25兜底会稳很多。

这个情况我踩过，和你的现象几乎一模一样：查“退换货政策”，返回的全是产品参数。问题大概率不在重排序，而是前面根本没把关键片段召回来，reranker再强也没法把没进候选集的东西排上来。你按固定长度切chunk，很容易把“退换货”这种小标题和后面的正文切散，或者整段政策被切到两个chunk里，两边都只沾一半语义，embedding自然偏到产品介绍那边去了。建议先别急着上query改写，先抽十条badcase看看golden chunk到底长啥样、有没有被切碎，这一步能省很多瞎试。另外bge-large-zh对长chunk的语义平均挺敏感的，政策这种关键信息被稀释后就压不过参数类文本，可以试试按标题或段落切，再给chunk加上来源标题做前缀。混合检索确实值得加，BM25对“退换货”这种实体词很稳，能兜住embedding漏掉的。reranker效果变差别急着否定它，很可能是你喂给它的候选里本来就缺正样本，先修召回再谈排序。

你这情况感觉更像是切分把“退换货”这个实体跟它的上下文拆散了，固定长度切chunk对政策类文本挺不友好的。可以先查一下前20个chunk里到底有没有“退换货”字样，如果没有那就是召回阶段就丢了，重排序再牛也救不回来。建议试试按标题或段落切，再叠个BM25做混合检索，关键词命中会稳很多。query改写也有用，但优先级不如先把切分和召回修好。

先别急着上重排序，查查切分后退货那段是不是被切散了，关键词都凑不齐，reranker再强也白搭。

固定长度切chunk确实容易把“退换货政策”这种关键信息切碎，而且bge-large-zh对长文本里的关键词其实不太敏感。你试试先别急着上重排序，把切分改成按标题或段落语义切，保证政策条款完整。另外query里“退换货”这种词权重太低，可以加个BM25混合检索兜底，或者用LLM把query改写成“退货 换货 售后政策”再检索。reranker排更差可能是它本身对短query和长chunk的匹配就有偏差，先别迷信它。

先别急着上重排序，固定长度切分很可能把“退换货”和产品名切散了，试试按标题或语义切，再混个BM25关键词召回。

固定长度切分确实容易把“退换货政策”这种完整语义切散，关键词恰好落在两个chunk边界上就谁都召不回。你可以先别急着上重排序，手动翻几条原始PDF看看答案段落实际长什么样，再决定按标题还是按语义切。另外bge-large-zh对长query里的实体词权重本来就不敏感，query改写或者BM25混合检索可能比换reranker更管用。重排序变差大概率是召回的候选里压根没几个真正相关的，reranker再强也救不回来。

先别急着上reranker，查下PDF解析是不是把表格或标题跟正文混一起了，切分前清洗下数据可能比换模型管用。

先查查PDF解析后文本里到底有没有“退换货”这几个字，很多扫描件压根没提取出来。

你这情况我遇到过，bge-large-zh对长chunk里的关键词其实不太敏感，尤其是产品名和“退换货”这种属性词混在一起时，向量容易偏向产品主题。建议先别急着换reranker，试试用BM25做个混合检索，把关键词召回的片段捞回来再融合排序，效果通常比纯向量强不少。另外查一下切分是不是把“退换货政策”和产品参数切到同一个chunk里了，按标题层级切可能更稳。

你这个问题大概率出在切分上，固定长度切很容易把“退换货政策”这种关键信息切散，或者跟产品参数混在一个chunk里稀释了语义。先别急着上reranker，拿几个bad case把原始chunk打出来看看，大概率能发现问题。query改写和混合检索确实有用，但得先把切分改成按标题或语义边界来，不然底层数据就是脏的。另外bge-large-zh对这种短query和长chunk的匹配本来就偏弱，可以试试给chunk加个标题前缀再embedding。

先别急着上重排序，问题八成出在切分上。固定长度切PDF很容易把“退换货政策”这种关键信息切散，或者跟产品参数混在一个chunk里稀释了语义。你可以先抽几条召回的chunk看看，是不是压根没切到那块内容。如果切分没救，再考虑混合检索加query改写，关键词召回对实体类问题确实管用，光靠稠密向量容易飘。

先试试混合检索加关键词召回吧，纯向量对专有名词确实容易翻车。