用Prompt写了个AI Agent，结果它总是自作主张，怎么约束？

你这情况我太熟了，光靠system prompt压不住，它一自由发挥就放飞。我试过在关键节点硬编码几个if-else判断意图，比纯prompt靠谱点，但别搞成完整决策树，太重了。更狠一点的做法是给输出加个JSON格式，限定只能回“回答”或“引导”，跑偏就让它自己转回来。另外你那个客服场景，可以试试把“不主动推荐”直接写进few-shot示例里，比抽象指令管用。

试试在关键节点加硬性条件判断，比如“仅当用户明确提到退货时才处理退货”，比单纯靠Prompt语气管用多了。

光靠System Prompt确实管不住，得给Agent加个意图识别和动作白名单，越界就直接拦截。

这问题我太有同感了，纯靠System Prompt做约束在Agent场景下基本就是薛定谔的边界，模型该发散还是发散。你那个“只回答与问题相关”其实是个伪指令，因为模型对“相关”的理解和人类差太远了，它觉得推荐会员卡也是服务的一部分。我的经验是得把路由逻辑前置，用一个独立的意图识别步骤先判断用户问题属于哪个业务域，然后才让Agent在这个域内生成回答，这比在Prompt里反复强调边界有用得多。另外你提到的决策树我倒觉得不用那么硬，可以试试给Agent配一套工具列表，比如查退货政策、查物流、查会员权益，然后明确告诉它“只能调用工具获取信息，没有对应工具的问题就回复无法处理”，这能物理上拦住它乱说。还有个细节是Prompt里别用否定句约束，像“不要扯到物流”模型反而容易关注到物流，改成“当且仅当用户明确询问物流时才回应相关内容”会好一点。当然真跑起来还得靠评测集兜底，你得把那些跑偏的case记录下来，抽几轮few-shot塞进Prompt里当反面教材，模型看多了就知道哪些坑不能踩了。

说实话你遇到的问题太典型了，光靠System Prompt里写一句“只回答相关”根本压不住大模型的发散倾向，它本质上是概率生成，不是规则引擎。我自己试过在Prompt里加“如果用户没提，禁止主动推荐”这种否定式指令，效果时好时坏，因为模型对否定词的理解本来就弱。

你提的“决策树”思路其实方向对，但别真做成硬编码的if-else，否则Agent就退化成普通客服脚本了。更实用的做法是给模型一个“行为白名单”，比如明确列出“回答退货政策、查询物流、升级投诉”这几个动作，然后加一句“只执行白名单内的动作，其他请求回复‘转人工’”——这比单纯禁止要好使。另外可以试试在每轮回复前强制让它“先判断用户意图”，比如在Prompt里写“第一步：输出意图分类，第二步：根据分类选择回答模板”，这样相当于给它加了个思维锁。

还有一种取巧的办法是给Agent塞一个“失败回复”的兜底逻辑，比如当它输出内容里出现“推荐”“建议您”这类词时，系统自动拦截并替换成标准话术。我最近在项目里就是这么干的，虽然笨，但至少不会闯祸。说到底，Prompt只能软约束，想硬控就得在代码层面加个“输出过滤器”，把业务规则写死在逻辑里，别全指望模型自己守规矩。

这个问题我太有同感了，之前调客服Agent也踩过同样的坑。你发现没，System Prompt里写“只回答XX”其实特别容易被忽略，因为大模型对否定式指令的遵循度远低于正向引导，它更倾向于顺着对话惯性发挥。我后来试了个办法，就是给Agent加一个“意图路由”前置步骤，比如强制它先输出一个内部标签（像“退货咨询”“物流查询”这种），再根据标签走对应的回复模板，相当于把决策树嵌进Prompt里，但比硬性if-else灵活多了。另外你说的“硬性指令格式”，可以试试在每条回复前加“【任务边界】”这样的显式标记，配合few-shot示例，比单纯文字约束管用得多。还有个小坑，就是模型特别喜欢讨好用户，用户稍微问个“你们服务怎么样”，它就自动进入推销模式，这时候得在Prompt里明确“禁止主动推荐，除非用户明确询问”。不过话说回来，Agent本身就有自主推理的特性，完全锁死可能又显得死板，你得在“可控”和“自然”之间找个平衡点，这个就得靠多轮测试调阈值了。

我之前也踩过这个坑，光靠System Prompt压不住它发散。后来我发现得把Agent的“行动”和“知识”拆开，比如用function calling或者加一层意图识别，先判断用户到底要干嘛，再决定调哪个流程，而不是让它自己从Prompt里找答案。

你这情况有点像模型把“相关性”理解得太宽泛了，它觉得物流和退货沾边就顺便说了。可以试试在Prompt里给负面指令，比如明确写“当且仅当用户主动询问时才提及会员卡”，但更稳的办法还是上结构化约束，让它每一步都走预定义的分支，别给它自由发挥的空间。

这问题太真实了，我试过在system prompt里堆一堆“禁止”“必须”，结果它该跑偏还是跑偏。后来发现光靠写规则没用，得把判断逻辑拆到每一步，比如让模型先输出意图分类，再根据分类走不同的回答模板，相当于给它一个隐形的流程框架。你可以试试用few-shot给几个“用户问A但模型答B”的反例，明确标注这是错误示范，比单纯写禁止指令管用得多。

这问题我太有同感了，之前用纯Prompt调客服Agent也踩过一样的坑。你写“只回答与问题相关的内容”，这其实是个很模糊的指令，模型根本不知道“相关”的边界在哪，尤其在多轮对话里，它会自己脑补用户意图。我后来试过把决策树逻辑直接写进Prompt，比如“退货问题→只查退货政策，不准提物流”，但效果还是不稳定，因为LLM本质上不是按规则执行的，它是按概率生成的。更靠谱的办法是给Agent加一层“意图路由”，先用一个轻量模型或关键词识别把用户问题分类，再让不同Prompt分支去处理对应类别，而不是让一个Agent自由发挥。另外，你可以试试在每轮输出前强制加一个“行动校验”步骤，让模型先写“我判断用户意图是X，所以我回答Y”，这样它至少会自我检查一下。不过说实话，要真正约束住，还是得靠代码层面的状态机，Prompt只能做软约束。你现在的场景是纯文本客服吗？有没有考虑过用工具调用来限制输出范围？

这问题太真实了，我试过在prompt里加“必须确认用户意图后再回答”，结果它还是会脑补。后来我发现，光靠system prompt限制不住模型生成的“自由意志”，不如把Agent的每一步输出都强制走一个“意图分类+分支处理”的流程，比如先让模型输出一个JSON，里面包含“是否回答问题”和“是否提供额外建议”的布尔值，再根据这个值决定要不要执行后续动作。这样至少能兜底，不然你永远猜不透它下一秒想干嘛。

这问题太真实了，光靠System Prompt确实管不住Agent的“自由意志”。我试过在Prompt里加“必须调用工具确认意图”之类的硬规则，但效果也一般，它还是会脑补。建议你试试把“不做什么”的负面清单写具体点，比如“禁止主动推荐会员卡，除非用户明确询问”，比一句空泛的“只回答相关”管用。另外决策树没必要完全手动搭，可以给Agent配一个意图分类节点，先让它判断再决定走哪条回复路径，能少很多跑偏。

这题我太有同感了，纯靠Prompt约束Agent确实容易翻车，尤其是对话一长，模型就把上下文优先级搞混了。后来我试了在关键动作前加“必须调用工具判断”这种硬性条件，比如退货问题就锁定退换货流程，跑题就强制拉回，比写“不要做什么”管用。你这情况可以试试把决策树写进System Prompt里，不是让它当选择题，而是明确告诉它“先判断意图，再走对应分支”，效果会好很多。另外建议给Agent加个“兜底回复”，只要不确定就回“让我转人工”，至少不会乱发挥。

试试给Agent加个“意图识别+固定话术模板”的双层约束，比纯Prompt靠谱多了。

决策树太重了，你直接把每个场景的边界条件和禁止动作写进System里，比“只回答”这种软指令管用。

这问题我熟，之前调客服Agent也踩过同样的坑。光在Prompt里写“别跑偏”确实没用，模型对否定指令的敏感度远低于正面引导。你可以试试把决策树直接写进System Prompt里，比如“当用户提到退货时，只输出退货流程，禁止提及物流”，用这种“当...时只...禁止...”的硬性模板，效果立竿见影。另外，如果还压不住，可以加一层后置校验逻辑，用代码判断输出内容是否包含关键词，命中就强制重生成，双保险。

试试在Prompt里加“每一步先复述用户意图再回答”，我试过能拉回不少跑偏。

把判断逻辑写死成“无明确意图就沉默”，比光靠语气词约束靠谱多了。

试试给每条回复加个强制输出模板，跑偏大概率是模型自由发挥了，套个结构化格式能治标。

可以试试把决策树逻辑写进few-shot示例里，比干巴巴的指令管用，我试过效果立竿见影。

试试把意图识别单独拎出来，先分类再回答，别让模型自己脑补整个流程。

给Agent加个状态机吧，限定每个节点只能执行特定动作，Prompt管不住发散思维。

试试在每轮回复前强制加个步骤判断，让AI先复述用户意图再回答，跑偏能少很多。

我之前也踩过这个坑，光靠system prompt确实压不住。后来把每个意图分支写成了独立的few-shot示例，并且明确要求“未命中场景必须回复预设话术”，跑偏概率低了很多。你可以试试在关键节点加个强制输出格式，比如让模型先输出意图分类再生成回答，相当于给它装个“闸门”。不过决策树有点过度设计了，维护成本太高，先试试结构化prompt吧。

这问题我太有感触了，之前搞客服bot也栽在“自作主张”上。你光靠System Prompt压是压不住的，因为大模型天生就爱补全信息，你把边界写死了它也会为了“有用”而脑补。我后来是给Agent套了个轻量级的状态机，每个状态下只允许调用特定的工具，比如在“退货咨询”状态下就锁死物流查询和退货规则，其他意图全部走兜底话术。另外你试过把“不做什么”直接列成负面清单吗？比如“除非用户明确问会员卡，否则禁止提及”，这比“只回答相关”有效得多。还有个土办法，在Prompt里加一句“每一步行动前，先重复用户的原话”，能强行让它回到上下文上。不过说真的，纯Prompt治标不治本，你迟早得引入意图分类器先拦一道，让模型只在分类结果里做选择，自由度就没那么高了。