写Agent的System Prompt总是越写越长，怎么控制不失控？

我最近也踩过这个坑，越加规则模型越死板，感觉它把每条指令都当成最高优先级去执行了，反而丢了原本的灵活度。后来我把那些“不要做什么”的硬规则全删了，改成在关键节点给一个“优先判断”的提示，比如“只有用户明确要求时才调用搜索”放在最前面，其他细节全挪到few-shot示例里让模型自己学。另外发现一个有用的思路：把System Prompt当成一个“角色设定+目标约束”，而不是流程说明书，那些“超过3轮总结”之类的逻辑其实更适合放在代码里控制，每轮对话前动态注入当前状态，而不是让模型自己记。还有个土办法，就是每次改完prompt都拿十个固定问题跑一遍回归测试，一旦发现它开始答非所问或者废话变多，立刻回滚，别心疼删掉的那些字。说到底，2000字可能不是控制力变强，而是把模型的注意力稀释了，它得花精力去权衡哪条规则更重要。

我最近也踩过类似的坑，一开始给Agent定的规矩越多，它反而越容易在无关紧要的地方纠结。后来我发现System Prompt更像是个“边界”而不是“操作手册”，你越是想把每一步都写死，模型就越倾向于机械执行，根本顾不上理解用户的真实意图。我现在的做法是只保留几个核心原则，比如“默认假设用户需要简洁答案，除非明确要求详细”，然后所有额外规则都塞进用户消息的动态上下文里，让模型自己判断什么时候该触发。还有个体会是，那些“超过3轮必须总结”之类的硬性规定，其实可以改成给Agent一个“记忆压缩”的工具，让它自己决定什么时候该清理历史，而不是靠你预设轮次来卡它。你那个“变呆”的现象，我怀疑是2000字的规则里有很多互相矛盾的地方，模型在权衡优先级时把最简单的路径当成了最优解，你可以试着删掉一半约束，只保留那些真正能避免错误行为的，跑几轮看看效果。另外，Claude 3.5对这种冗长指令的遵循度有时候不如短指令来得精准，可能它把更多注意力花在解析规则上了。如果方便的话，可以把你最开始的200字版本和现在的2000字版本做个A/B测试，大概率会发现短版本在灵活度上完胜。

试过把规则拆到工具描述和上下文里吗？主prompt只留核心目标，我这样改完啰嗦少多了。

我最近也踩过这个坑，System Prompt从300字膨胀到1500字之后，模型确实会变得特别“轴”。感觉问题的核心不是规则太多，而是很多规则在互相打架，比如你既让它“灵活判断”，又给它套了“超过3轮必须总结”这种硬性流程，模型只能优先执行最机械的那条。后来我把那些“必须”“一定要”改成“通常”“倾向于”，反而听话多了。其实有些约束根本不该写在System Prompt里，应该交给代码层做状态管理，比如轮次计数、工具调用白名单这些，模型只负责理解和生成。还有一个挺有用的做法，把长规则拆成几个短prompt按场景拼接，别一股脑全塞进去。2000字里估计有一大半是重复表达或者模型本来就会遵守的常识，删掉之后效果反而回升。你可以试试把当前prompt打印出来，逐条问自己“这条不写它会犯吗”，大概率能砍掉三分之一。

我之前也踩过这个坑，规则堆多了模型就开始“过度执行”，把每句话都当圣旨。后来我把那些流程性的约束拆出去，用代码或者工具层去兜底，System Prompt里只留角色定位和判断原则，反而灵活多了。你可以试试把“超过3轮必须总结”这种硬规则改成“感觉对话快跑偏时主动收一收”，给它一点判断空间。说到底模型不是靠规则数量变聪明的，规则太多它就不敢自己思考了。

我最近也踩过这个坑，后来发现把“必须总结”这类流程规则拆到工具描述或者后置的system消息里，主prompt只留角色和边界，效果反而稳。你那些“超过3轮就总结”的规则其实挺像硬编码，模型会当成铁律去执行，简单问题也硬套。可以试试用few-shot示例代替文字规则，让它自己判断什么时候该走流程。或者干脆把长prompt拆成两段，前半段固定，后半段按场景动态注入，别一股脑全塞进去。

我也踩过这个坑，System Prompt写到后面基本就是“规则叠规则”，模型每步都在做合规检查，灵活度肯定掉。后来我砍到只剩核心目标+边界条件，把“超过3轮总结”这种流程控制挪到代码里做状态判断，效果反而稳。那些“不要主动调工具”的约束，其实用工具权限或前置判断拦一道比写进prompt靠谱。你可以试试分两层：一层固定的角色和输出格式，一层按场景动态拼，别全堆在一起。

同感，我之前也踩过这个坑。后来发现规则堆太多反而互相打架，模型每步都在纠结“我是不是该走流程”。试试把硬规则改成目标描述，比如“周报要简洁，能一句话说清就别展开”，让它自己判断。我现在控制在500字以内，效果比2000字好多了。

我踩过一模一样的坑，规则堆到后面模型就开始“背台词”了。后来我把那些“如果……就……”的硬规则全删了，改成在示例里体现——给它两三个典型对话示范，比写十条规则都管用。另外“超过3轮必须总结”这种太刚性了，模型判断不了什么叫“简单问题”，反而每轮都当任务走流程。现在我的prompt控制在500字以内，剩下的靠工具返回值里带上下文提示来引导。