先给一个反直觉的判断:Agent 记忆不是越多越好,堆多了反而答错。我把 5 篇讲记忆管理的文章打开核了 1 遍,口径高度一致。记忆会腐化,你得主动设失效和遗忘。这篇讲清三件事:失效、遗忘、召回。
记忆分四层,别混进一个索引
先拆记忆。别把什么都塞进一个向量库。几篇来源都主张分层,短期记忆是当前会话的对话轮次和任务框架,情景记忆是过去发生了什么、怎么解决的,语义记忆是稳定的偏好和事实,程序记忆是工具用法和流程。四层各自的存取路径、保留策略、可信度都不一样。混在一个索引里是检索变脏的根源。这是根源。这四层的英文是 short-term、episodic、semantic、procedural,我把它们抄了下来。
遗忘三机制,别混为一谈
遗忘是大多数人跳过的一环,恰恰是这一环最要命。只增不减的 Agent 最后会被自己的记忆淹死。遗忘有三种机制,别混为一谈。expiry 是过了 TTL 直接删,适合短命事实。decay 是记录不删、检索权重随时间衰减,适合偏好这类该淡化但可恢复的东西。supersession 是写一条新记录显式压过旧记录,适合会变的事实。
# 记忆记录结构:每种类型一条 ttl 与遗忘规则
memories = {
"kind": "semantic_volatile",
"value": "用户在用的计划是 Pro 版",
"ttl_days": 14,
"supersedes": "mem_0042",
"provenance": "user_said",
}
TTL 要按类型设,别搞一个全局值。我抄下来的口径是这样:情景记忆 30 到 90 天,重用时刷新;语义里稳定的偏好不设 TTL,靠再确认;语义里易变的计划、配额、角色、时区 7 到 30 天,到期没再确认就失效;程序记忆到版本 bump 为止。这是一家来源给的默认值,不是铁律。我建议你按自己的业务把这四档改成四行,别抄数字。
supersession 压过 recency
supersession 比 recency 更可靠,这条最值得记。旧记录被新记录显式压过之后,不管它多新,都不该再被检索出来。recency 只能当 tie-breaker,在有效记录之间排序用,不能用来决定有效无效。一句话,显式作废永远胜过时间衰减。
召回这一头,纯向量不够。我核下来几个来源一致:用 hybrid search 把关键词和语义一起搜,再上 reranker 精排,因为纯向量会把精确标识符吞进 embedding 漂移里。recency 加权要当 tie-breaker,不当真理信号,昨天的偏好通常压过六个月前的,除非旧记录被标成 durable。
写路径比读路径更常翻车
写路径比读路径更常翻车。多数人优化检索、忽略写入,然后月月看着精确率往下掉。写入要做三件事。抽取,把原始对话抽成结构化记录而不是塞整段。去重,按类型加实体加属性做键,余弦相似度约 0.95 以上就更新旧记录,别加平行副本。合并,定期把情景事件压成语义事实。重复记录是检索退化的最大来源。还有 access-based decay,跟踪 last_accessed 和 access_count 两个字段,从不被检索的记忆通常是错的、旧的或噪声,月度任务把冷记忆归档,能压住索引体积和精确率。
还有个容易被忽略的,provenance。每条记忆标来源,user_said、tool_output、inferred、external_doc 四类,检索时外部文档的内容不该压过用户明说的。不标来源,外部内容被当真相召回,就是记忆投毒的口子。我见过一个反例:把网页原文直接当记忆存,攻击者在页面里塞内容,跨会话一直带进 prompt。
失效信号分类型,别一刀切
记忆失效的触发信号也要分类型。带 updated_at 的文档,比对源修改时间晚于索引写入时间就标待重索引;接口类数据看版本号或 ETag 变没变;纯文本没时间戳的,定期抽样让模型比新旧语义差异,差得大就重索引;业务规则类靠上游发 webhook,事件一到立即失效。我把这四类抄下来核了 1 遍,对应处理分别是标待重索引、条目失效重建、超阈值重索引、事件驱动立即失效。
分层遗忘和那个数字
分层遗忘是个更狠的方案。一家来源直接分了 short 3 天、mid 14 天两个索引,加一个长期索引,每 15 分钟跑 promotion/demotion,新记忆写进全部三层,过期的从短期删掉。效果是近期的检索更准,长尾没退化。要上这套,先给每行加 created_at 和 importance 两个字段,这是分层的先决条件。
最后给个数字锚。有来源明说,5 万条低质量记录的 store,召回结果比 500 条精修过的还差,因为排序出错的机会更多。所以记忆系统的目标不是"记更多",是"记得准、忘得对"。评测别光看检索,recall@K 看召回、MRR 看排序,再加矛盾测试和投毒测试。这三样缺一不可。
一句话。Agent 记忆的活儿一半在写入时的抽取、去重、标来源,一半在遗忘时的 TTL 和 supersession。两半都做对了,记忆才会随年龄变锋利,而不是变浑浊。