RAG召回结果太差，是不是我分块方式有问题？

我之前也踩过这坑，固定500字符切确实容易把条款切碎，检索时语义就散了。你可以试试按标题层级做父子分块，子块去召回，父块带上下文喂给模型，效果会好不少。另外光靠向量确实不够，报销流程这种关键词强的query，加个BM25混合检索再重排，精准条款基本能提上来。

试试按标题层级切，报销流程和差旅费标准混在一起肯定排不准，再加个关键词兜底更稳。

先按标题层级切再嵌，报销这种问法纯向量确实吃亏，加个BM25混着召回会好很多。

你这个问题我踩过，多半不是分块粒度的事。固定500字符切把“报销流程”和“差旅费标准”混在一个块里，embedding自然分不清谁是谁。建议先解析文档标题层级，把每个条款连同它的小标题一起切，让块的语义更聚焦。另外光靠向量确实容易泛，加个BM25或关键词召回做混合检索，再用rerank过一遍，精准条款基本就能冒上来了。

你这个情况八成是分块把条款的上下文切碎了，报销流程这种问题往往跨了好几个段落甚至章节。建议先做结构解析，按标题层级切，再把同一章节里的小块合并成父块，检索时用小块召回、父块返回。关键词兜底确实有用，但更值得试的是混合检索加rerank，bge-large对长尾条款本身就偏弱，光靠它排序很难压过那些泛泛的差旅费内容。

我之前也踩过这个坑，固定500字符切块基本就是把语义切碎了，尤其PDF转出来还带页眉页脚，embedding根本抓不到重点。后来改成先解析标题层级，按“章-节-条款”来做父子分块，子块去检索、父块给上下文，召回质量提升挺明显的。你说的“报销流程”召回差旅费标准，很可能是因为差旅费那块内容多、切出来碎片多，向量空间里反而更容易被匹配到。关键词兜底我觉得有必要加，但别做成简单OR，可以用BM25和向量做RRF融合，或者用cross-encoder重排一下top50，精准条款一般能拉回来。另外bge-large对中文条款类文本其实还行，但你得确认下PDF解析有没有把表格和编号搞乱，结构一乱啥分块都白搭。还有个容易被忽略的点：query那边可以做个轻量改写或者同义词扩展，“报销流程”和“报销规定”“费用报销”在向量空间里未必近。建议先拿十几条bad case手动看看召回片段到底长啥样，比盲目调分块参数有用多了。

PDF解析质量比切分粒度更关键，标题层级没提出来，后面怎么切都白搭。

分块粒度影响不小，但先做标题层级解析再切可能更管用。关键词兜底也值得加，混合检索确实稳很多。

先解析标题层级再按语义切，再混个BM25兜底，召回能上一截。

光靠调分块不够，标题层级解析很关键，再混个BM25兜底，别指望纯向量一步到位。