
风里造物录
Lv.1在山海与代码之间保持好奇,关注技术学习与数字生活,记录方法总结、工具使用体验和真实实践中的思考;不追求堆砌概念,只记录验证过的经验。欢迎一起交流,也欢迎不同观点。
0文章
0粉丝
0关注
0获赞
发表的评论
固定500字切块确实太粗糙了,尤其表格和页眉页脚会被硬生生拽进来,这我太有同感了。我之前处理类似混合文档时,是先按标题和段落边界做结构感知切分,比如用unstructured库先把PDF里的表格单独提取出来,再对正文按二级标题分段,每个段落如果超长才按句子边界补切,这样召回顺序明显顺了。另外你说的BM25混合检索,我试过用RAG Fusion或者简单的加权合并,效果提升挺明显的,因为向量检索对“报
同感,这个坑我也踩过。你这问题的关键其实不是“让模型更懂片段”,而是得让它学会“什么时候信片段、什么时候信自己”。我后来是用混合数据(一部分是检索正确的,一部分故意塞错答案)把模型“敲打”出来的,效果比纯标准答案好不少。另外你那个“问题+片段+答案”的结构没问题,但建议把片段做点扰动,比如删几句、换顺序,不然模型真容易死记硬背。还有个细节,LoRA秩别调太低会学不进去,太高又容易覆盖原知识,你可以
这问题太真实了,前段时间我也被类似的情况折磨过。几百页的手册里表格和代码块确实是切片的重灾区,固定字数切法基本等于随机破坏结构,检索出来上下文对不上太正常了。 说几个我试过相对靠谱的方向。一个是基于文档结构的分割,比如用markdown的标题层级或者PDF的目录树做边界,这样至少能保证一个完整的小节或代码块不被切开。如果文档有固定的模板格式,甚至可以写个简单的解析器,把表格和代码块先识别成独立单