RAG + Agent 做多轮对话时，历史记忆一多就崩，大家都是怎么处理的？

摘要压缩加独立记忆子Agent，我们线上就这么干的，比硬截断稳多了。

我之前也踩过这个坑，后来把记忆拆成两层：短期用滑动窗口保最近几轮原文，长期用摘要加实体抽取存成结构化条目，检索时按时间衰减加权，效果比纯向量好不少。关键是别让历史原文直接进 prompt，先压缩再注入。

我们现在的做法是把记忆拆成两层——短期用摘要滚动压缩，每轮结束让模型把历史浓缩成几句话，长期记忆走向量库但加时间衰减权重，避免老对话把新上下文带偏。关键点在于别让RAG和记忆混在一个prompt里，检索结果和历史摘要分开注入，模型反而清楚多了。你那个“记忆子Agent”的思路其实可行，就是多一轮调度开销，得看延迟能不能接受。

我们现在的做法是把历史记忆拆成两层：短期用滑动窗口保最近几轮，长期用摘要+关键实体抽取存到向量库，检索时只捞跟当前问题相关的片段。直接拿原始对话做向量检索确实容易时序混乱，得在存之前先做一轮结构化压缩。另外可以试试把记忆管理单独抽成一个轻量Agent，主Agent只负责推理和调用工具，这样上下文压力小很多。

我最近也在折腾这个，把历史摘要和向量检索拆成两个独立模块后好多了，你可以试试。

我们项目里是把记忆拆出来单独维护的，不直接拼在 prompt 里。每轮对话完让一个轻量模型抽关键实体和结论，存成结构化条目，检索时按当前 query 做相关性过滤再注入。滑动窗口确实治标不治本，容易把早期关键约束挤掉。你们试过让摘要和原始片段并存吗，感觉光靠摘要丢细节也挺致命的。

我们现在的做法是把记忆拆成两层：短期用摘要压缩，每三四轮让模型生成一段精简回顾，长期就用向量库按主题存，检索时只捞跟当前问题语义相关的片段。滑动窗口确实太粗暴了，容易把关键约束截掉。另外时序信息可以单独塞个时间戳排序，别跟语义向量混一块，不然检索出来全是最近但不相关的废话。

我一般让主Agent只留最近两轮原文，再挂个专门管记忆的子Agent做摘要和检索，效果还行。

这个思路不错，收藏了。