RAG召回质量差，是embedding模型问题还是chunk策略问题？

说实话我觉得你这个现象大概率是chunk策略的锅，512的粒度对“报销流程”这种强步骤性的文档太粗了，bge-m3本身没这么拉胯，top_k调大只会把不相关的边角料捞上来。建议你先按语义段落或者二级标题切块，每块控制在200-300字，overlap可以降到20试试，这种改动往往比换embedding见效快。混合检索也确实值得加，BM25能兜底精确术语匹配，跟向量互补性很强，成本也不高。至于gte-Qwen2，提升肯定有但不会质变，先把召回源头捋顺了再考虑升级模型。

说实话你这个问题我踩过一样的坑，bge-m3对长文档的语义切分其实挺看chunk质量的，512+50对“报销流程”这种步骤型内容可能刚好把关键信息切散了。我建议先别急着换embedding，把chunk改成按段落或语义块切，overlap提到100试试，同时把top_k降回10以内，配合rerank看效果。你问的混合检索确实值得优先加，BM25补关键词命中，向量抓语义，双路召回后合并再rerank，比单换模型提升更明显。gte-Qwen2强在指令跟随和长文本，但你这个场景瓶颈大概率不在模型。

先别急着换embedding，BGE-M3配512的chunk对长文档确实容易漏细节，把chunk缩到256再调下检索策略试试。