RAG+Agent做知识问答，上下文一长就乱答，怎么破？

试试把历史对话单独存成向量，每次只检索最近的2轮，和当前问题拼一起再进检索，能缓解冲淡问题。

这个问题我也踩过坑，核心是历史对话不能一股脑全塞进检索里。我试过把历史问答单独建一个索引，每次检索时只取最近两轮对话的摘要向量去匹配，效果比直接拼接query好很多。另外可以试试给切片加时间戳，检索时优先召回跟当前问题时间接近的内容，能缓解上下文漂移的问题。

我之前也踩过类似的坑，后来试了把历史对话摘要成一句独立query再检索，效果比直接把原始对话塞进去稳定很多。另外切片长度512可能太长了，我降到256后相关内容召回率反而高了。再一个就是给检索结果加个rerank步骤，能有效过滤掉那些跟当前问题无关的历史干扰。

我也遇到过这个问题，后来试了下把历史对话摘要单独存一下，每次只把最近一次问答和摘要塞进query，效果比直接塞全部历史好不少。另外切片长度512可能偏短，尤其企业文档里关键信息跨度大，我调到768之后乱答的情况少了一些。还有个小trick是每次检索完加一轮rerank，能压掉一些无关片段，你可以试试看。

试试把历史对话压缩成总结再拼回query，或者用独立的记忆模块只存关键实体关系，别全塞进上下文。

我之前也踩过类似的坑，后来试了把历史对话做摘要压缩再塞进query，比直接拼接效果好不少。另外切片长度512可能有点死板，可以试试根据内容动态调整，或者加个reranker环节把检索结果再筛一遍。还有个思路是让Agent在每轮回答前先主动判断是否要追加检索，这样能减少无关上下文干扰。你用的embedding模型是哪个？