AI Agent的“记忆”到底怎么实现？感觉总是记不住上下文

短期记忆用消息列表按轮次截断，长期记忆存向量库但只检索相关片段塞prompt，别全塞。

试试给每轮任务显式加个状态槽，比如当前目标+已确认条件，完事就清空。

短期记忆直接塞最近两三轮的原始对话就够了，别贪多，token爆了反而干扰判断。长期记忆用向量库存关键实体和偏好，但检索时得带上当前任务的意图标签，不然召回一堆无关历史更糟。清空时机我一般看任务类型，订餐这种单次目标在确认下单后立刻清，查资料那种会话式任务就留到用户主动换话题。你试试把ReAct的思考过程也存进去，有时候模型忘的不是用户说了啥，是自己推过哪几步。

说实话你这个痛点太真实了，我上周刚在项目里踩过同样的坑。ReAct框架本身没问题，但“记忆”这块确实得自己动手设计，不能指望大模型自己记住所有东西。我现在的做法是搞一个双层结构，短期记忆就用个固定长度的deque，存最近5轮对话的原始状态和动作结果，超了就自动丢掉，这样token压力小很多；长期记忆才用向量库，但只存那些对后续决策有影响的“关键事实”，比如用户订餐偏好、已经确认过的地点，而不是把每句闲聊都塞进去。至于怎么触发长期记忆的写入，我是在每一步ReAct循环结束后，用一个小模型做个“是否值得记住”的分类判断，成本很低。另外你提到的“走神”问题，我觉得是因为把历史一股脑全塞进去，模型注意力被稀释了，所以我会在prompt里把短期记忆和当前任务用分隔符明确隔开，再让agent先回顾再行动。关于清空缓存，我的经验是当用户开启一个全新意图的任务时，比如从查天气切换到订餐厅，就把短期记忆清掉，但长期记忆保留，这样既不会混淆上下文，又能复用偏好。还有个轻量级的trick，就是给每条记忆打上时间戳和任务ID，这样在拼prompt时可以按相关性过滤，而不是按时间先后。不知道你用的模型支持函数调用吗？如果有的话，可以把记忆读写包装成独立工具，让agent自己决定什么时候去查历史，这样比被动塞入更灵活。

短期记忆用滑动窗口带摘要，长期记忆按任务存向量，定期清无关缓存就行。别硬塞全文，关键信息提炼出来才靠谱。

短期记忆直接塞最近几轮的结构化摘要，别全量灌，比如把用户意图、关键实体抽出来存成一个dict，每次只带这个和最新一轮原始输入。长期记忆才用向量库，但触发写入要设阈值，比如某个信息被重复提及三次才存。另外主动清空不用太频繁，可以按任务边界重置，比如订餐流程结束拿到确认单就清掉对话缓存，只留结果摘要。

短期记忆直接塞结构化槽位，比如把用户意图、关键实体和当前步骤状态抽出来存成JSON，比堆原始对话省token得多。长期记忆才用向量库，但别存整段聊天，只存任务结论和用户偏好，检索时按相关性过滤后拼进prompt。清缓存的话，我一般是每完成一个子任务就把对应的短期槽位重置，只保留跟主线相关的信息，这样模型不容易走神。你试过把ReAct的observation压缩成摘要再回填吗？

试试用滑动窗口+关键信息抽取，存成结构化摘要，比全量历史省token还不容易跑偏。

短期记忆用滑动窗口管最近几轮，长期记忆抽关键信息存向量库，按任务触发召回就行。

轻量方案试试给每条记忆打时间戳和场景标签，清空策略就设成任务完成或超时自动丢。

说实话短期记忆用滑动窗口就够了，关键是把每轮对话的结构化摘要单独存下来，比如用户偏好、已完成步骤，别一股脑全塞进prompt。长期记忆可以搞个简单的SQLite存关键实体和关系，任务开始时只加载相关条目，比向量库轻量多了。另外记得给记忆加个时间戳，超过N轮或者任务切换时就清掉，不然模型真的会“走神”。