最近在搭一个简单的RAG问答系统，用的是LangChain加OpenAI的embedding。遇到一个很头疼的问题：我把PDF文档切成512个token的chunk，结果用户问“这个项目的截止日期是什么”，系统返回的片段里只有“截止日期是下周五”这种孤立信息，但用户其实需要上下文里提到的具体年份和项目名。试过把chunk调大到1024，检索召回率上来了，但回答又容易混进不相关的细节。想问下大家，chunk大小、overlap长度这些参数一般怎么调才比较通用？还是说要根据文档类型（比如合同、技术文档）动态调整？另外，有没有什么办法能判断当前chunk是否已经包含了完整的语义段落？
楼主
2026-07-19
RAG系统里文档切得太碎反而答不准，怎么控制chunk大小？
请 登录 后发表回复
全部回复
共 162 条
2楼
17小时前
我一般不会死守固定chunk大小，而是按文档结构切，比如按标题或段落边界走，这样语义完整度会好很多。你那个截止日期的问题，其实可以试试在chunk里带上文档标题或章节路径做context前缀，检索时更容易带出年份和项目名。overlap我通常设10%到15%，太大反而会让噪声变多。判断语义是否完整，可以拿embedding相似度看相邻chunk，如果突然掉得厉害，那大概率就是切断了。
3楼
15小时前
我一般不会死磕固定chunk size，而是按文档结构切，比如按标题或段落边界分，这样语义完整性比单纯512/1024靠谱得多。overlap我通常设10%到15%，太大反而会让重复内容干扰检索排序。判断语义是否完整，可以看切出来的块有没有孤立的代词或指代，比如“它”“这个项目”却没出现具体名字，这种就得合并。合同和技术文档确实差异大，合同适合小chunk保精度，技术文档可以大一点保上下文连贯。