Agent多轮对话中Prompt总是漂移，大家怎么固定系统指令的？

我之前也踩过这个坑，后来发现光靠重塞system prompt没用，模型会把它当成历史噪音。我现在是每轮对话前把system指令压到最前面，同时把历史消息里的用户意图做个简单分类，一旦话题偏离就强制截断并附上一句“仅保留产品相关上下文”。另外摘要比截断好用，但别用模型自己摘，容易把关键人设摘丢，我直接按规则只保留最近3轮+用户最新问题，效果稳定多了。

我最近也遇到这个问题，试下来最管用的其实是把历史对话里跟当前问题无关的轮次直接砍掉，只保留最近两三轮，再加一个简单的意图分类器，如果检测到用户聊非产品内容就强制切回系统指令。另外摘要比截断好使，但别用模型自己生成的摘要，容易越摘越偏，直接用固定模板提炼用户诉求就行。你试试看把系统指令的关键句抽出来放在每轮用户消息之前，而不是塞在整段消息里，效果会稳一些。

我之前也踩过这个坑，后来发现单纯重塞system prompt没用，因为模型会把历史里的用户话术当成更高优先级的上下文。现在我是对最近5轮对话做动态摘要，把摘要和原始system prompt一起塞回去，效果稳了不少，你可以试试。另外，如果用户问无关问题，我会在函数调用层直接拦截，不让模型有自由发挥的机会。你那个“每轮重写”的方式，有没有试过把拒绝话术也写进few-shot示例里？我感觉比单纯强调“你是客服”管用。

试试每轮把历史对话压缩成摘要再拼上系统指令，效果比单纯重塞稳定多了。

我们项目里直接对历史做意图裁剪，只保留和产品相关的轮次，其他全丢掉，模型就老实了。

我之前也踩过这个坑，后来发现单纯堆system prompt没用，得把“人设”拆到结构化数据里去。比如把产品FAQ和对话策略单独存成向量库，每次检索相关片段拼进上下文，比硬塞固定指令稳得多。另外历史对话截断时，我会用摘要模型把前面几轮压缩成“用户问过X，已答Y”这种状态，再配合规则判断当前话题是否越界，漂移概率就低很多了。你可以试试看，效果比反复强调“你是客服”靠谱。

截断不如摘要，我都是把历史对话压缩成结构化记忆再拼回system，漂移少很多。

试试每轮把用户意图分类后只保留相关上下文，无关的直接丢，比硬塞系统指令管用。

我之前也踩过这个坑，后来发现单纯重发system prompt没啥用，模型会把历史里的用户话术当成更高优先级。我的做法是每轮对话前把最近3轮之外的历史压缩成摘要，再拼接上原始系统指令，这样既保留上下文又不至于被带偏。另外你可以试试在系统指令里加一句“如果用户话题偏离产品，用固定话术回复并强制拉回”，效果会比单纯拒绝稳定不少。你现在的历史截断策略是直接丢消息还是有做语义筛选？

试试把历史消息里用户无关内容提前截断，或者用摘要压缩旧对话，比重复塞系统指令稳。

试试把历史对话分段压缩成摘要再塞回上下文，比单纯截断稳很多，还能省token。

历史消息里加个最近几轮的用户意图标签，让模型每次先判断意图再回答，漂移会少点。

试试把历史对话按相关性过滤一遍再喂给模型，或者做个意图识别开关，触发无关话题就直接拉回主流程。

我之前也踩过这坑，后来改成对每轮用户输入先做分类，非产品问题直接走预设回复，不丢进上下文，漂移少多了。

试试用摘要替换早期对话，保留关键信息，模型就不容易丢了人设。

我一般固定前几轮不截断，后面只传最近三轮加摘要，效果稳很多。

试试把用户无关话题直接截断掉，只保留产品相关历史，比反复强调人设管用。

我之前也踩过这个坑，后来发现单纯重塞system prompt没用，因为模型注意力会被长对话里的用户内容稀释。我的做法是把历史对话按相关性做滚动窗口截断，同时每轮都把核心约束用“最新指令”格式插到最后一条user消息前，效果比单独维护system稳定不少。另外你也可以试试给关键规则加个权重，比如用分隔符强调，或者对用户跑题内容先做意图识别再决定要不要接话。

试试给历史消息做语义截断，只保留最近3轮+系统指令，效果比硬塞强多了。

我这边是把系统提示词写进一个单独chain里，每轮强制校验输出，跑偏就重试一次。

我之前也踩过这个坑，后来发现单纯重塞系统指令没用，模型还是会优先看最近的对话上下文。我现在的做法是给历史消息按轮次设个衰减权重，超过5轮的就压成摘要塞进system里，效果比截断稳定不少。你试过对用户输入做个意图预检吗？先拿一个轻量分类器判断是不是产品相关，不相关就直接走拒绝分支，这样比靠模型自觉靠谱多了。

我之前也踩过这坑，后来发现把历史对话里跟当前问题无关的轮次直接砍掉，只保留最近2-3轮效果会好很多。另外可以试试在每轮用户输入前，用代码动态拼一段“当前任务状态”的提示，比如“你现在在回答关于退货的问题”，比单纯重复系统指令管用。你那个LangChain里是不是没对tool调用结果做约束？有时候模型是被工具返回的杂音带跑的。

这个问题我太有同感了，之前做个类似的bot也差点被用户带沟里去。我后来发现光靠每轮重塞system prompt没用，因为模型看到后面那堆历史对话，注意力全被用户最新的情绪带走了，你的指令反而成了背景板。我现在是这么干的：把最近两轮的用户输入单独拎出来，跟系统指令拼在一起，剩下的历史对话全丢给一个轻量摘要模型，只保留关键意图和已解决事实。另外我试过在每轮用户新消息前强制插入一段“你正在处理客服工单，当前主题是产品售后”，相当于把场景锚点直接焊死在对话流里，效果比反复强调“你是客服”稳定得多。还有个土办法是给模型装个“急刹车”——在系统指令里写清楚，如果用户话题偏离，就回复固定话术并主动提问拉回正轨，实测比被动拒绝靠谱。你那个每轮重塞的方式我猜问题在于消息顺序，GPT-4o对越靠后的文本权重越高，所以把系统指令挪到用户消息之后，或者用分隔符标出“当前必须遵守的规则”，可能会改善不少。

这问题太真实了，我试过把system prompt每轮都塞回去，结果模型反而更精分。后来改成只保留最近两轮对话+把之前的用户意图做成摘要，效果稳定不少，你可以试试看。

另外我怀疑是历史对话里的非产品内容污染了注意力，截断比强调人设管用得多。你那边有没有试过对用户输入先做个意图分类，只把产品相关的历史拼进去？我最近在这么搞，感觉比单纯重写prompt靠谱。

试试把历史对话压缩成摘要再拼进system prompt，亲测比单纯截断稳很多。

我这边是给关键意图加了个路由判断，无关问题直接走拒答分支，模型根本没机会跑偏。

试试把历史对话做意图分类，无关内容直接摘掉，比单纯截断稳很多。

我这边是把system prompt拆成静态+动态两块，动态部分每轮根据当前意图重写，效果还行。