最近在搭一个简单的RAG问答系统，用的GPT-4o+开源embedding模型。测试时发现一个很头疼的问题：检索出来的top-5文档确实跟问题相关，比如问“某产品保修期多久”，召回的内容里明确写着“保修期1年”，但大模型生成答案时却答成“2年”，甚至有时会乱编。
我试过调整chunk大小（从256到512）、换过不同prompt模板，也试过给模型加“只根据上下文回答”的指令，但效果不稳定。是不是踩了“检索-生成冲突”的坑？还是说需要做rerank或者给文档打标签？求有经验的大佬指点一下排查方向。