最近在搭一个基于Agent的RAG系统,用来处理多步骤的文档分析任务。比如用户问“总结A方案和B方案在成本上的差异,再对比C方案”,Agent会调用检索工具去拿相关段落。但问题来了——明明检索出来的内容里包含关键数据,Agent在后续推理时却经常“无视”这些信息,反而自己去编或者重复之前的错误结论。我试过调整prompt强调“请严格基于检索内容回答”,也加了rerank把高分段排前面,但效果时好时坏。是不是应该把检索结果拆成更细的chunk直接塞进Agent的上下文窗口?还是说需要给每个片段打标签让Agent识别?有点懵,求有经验的朋友指点一下。