用向量数据库做AI Agent的记忆功能，到底该存什么粒度？

这问题太真实了，我之前也卡在这。文档切片那套确实不适用对话，最后我是分两层存的：长期用session摘要+用户画像（比如偏好、事实），短期才存事件和实体，检索时按触发条件加权。清理策略可以搞个时间衰减或重要性评分，隔段时间把低分向量归档到冷存储，别硬删。

建议按事件+实体双粒度存，对话摘要单独开一层做索引，检索时先粗后细能省不少事。清理就靠时间衰减加话题漂移检测，过期主动归档。

我最近也在踩这个坑，说下我的做法吧。我最后是三层混着存：原始对话轮次只留最近N轮在内存里不进向量库，然后每几轮让模型抽一次事件和实体存成结构化文本再embedding，另外单独存一层session级的摘要向量用来做粗召回。检索的时候先拿摘要定位大概哪段时期相关，再下钻到事件粒度，碎片感会好很多。换话题干扰的问题，我是给每条memory打了时间戳和topic标签，检索时按当前对话的topic先做一轮过滤，命中率明显上来了。清理策略我用的是时间衰减加访问频次，超过一定天数且没被召回过的就降权或者归档到冷存储，别直接删，有时候老偏好还是会用到的。说实话这块没有银弹，得根据你的场景调粒度和衰减参数，建议先拿几百轮真实对话跑个离线评估再定。

我现在是用两层混合存的，短期记忆直接塞Redis按session过期，长期记忆才往向量库里写。写进去的也不是原始对话，而是让模型抽出来的结构化事件，比如“用户不吃香菜”这种，一条一个向量，检索时按语义召回再拼成自然语言给模型。整段对话摘要我也试过，问题是摘要太笼统，检索时容易匹配到一堆不相关的，反而干扰当前话题。换话题的干扰我觉得得靠时间衰减加session隔离，检索时给最近的和当前session的memory加权。清理策略我用的是TTL加访问频率，长期没被召回的直接删，重要的打个pin不参与淘汰。你那个每轮都存向量的做法确实不行，碎片化太严重，检索出来根本没法用。

这个粒度问题我踩过不少坑，后来发现关键不在“存多大”，而在于存之前先做一层抽取。每轮对话直接embedding肯定不行，检索出来全是“嗯嗯好的”这种废话，噪声太大。我现在的做法是异步跑一个轻量模型，把对话里值得记的东西抽成结构化事件，比如“用户偏好用Postgres”“对延迟敏感”，再把事件文本单独embedding存进去，原始对话反而不用全进向量库。session聚合的问题是话题漂移后旧信息污染严重，所以我给每条memory加了时间衰减和话题标签，检索时先按当前query做一轮topic过滤再走向量相似度，效果比纯ANN好不少。清理策略我是按重要度+访问频率做LRU，超过阈值的老memory先降权再归档，不是直接删，偶尔还能被召回。另外推荐看看mem0和Letta（原MemGPT）的思路，它们对memory分层和淘汰机制讲得比较细，比单纯翻Milvus文档有用。

我现在的做法是分两层存：原始对话按session切片存一份粗粒度的，再让模型异步抽事件和实体存细粒度的，检索时先命中事件再回溯原文。清理上给每条记忆加个衰减权重，几周没被召回又没被用户确认的就归档掉，别硬删，不然哪天用户问“我之前说过啥”就尴尬了。粒度这事真没有银弹，得看你Agent是任务型还是闲聊型，前者偏事件、后者偏摘要。