调Prompt让Agent别“自作主张”好难，各位怎么约束LLM行为边界的？

纯Prompt确实顶不住，尤其对话轮次一多，模型注意力一散就开始放飞。我这边是强制让Agent先输出一个带置信度的结构化决策字段，低于阈值直接走“未知”分支，外面再挂一层规则校验，等于把兜底逻辑从模型手里挪出来。另外few-shot例子得选那种“用户反复追问但答案确实没有”的场景，光给单轮例子没用。你可以试试在关键节点插入一次专门的“事实核查”子任务，让模型自己复述一遍结论来源，很多时候它一复述就露馅了。

纯靠prompt确实不靠谱，我都是强制结构化输出+规则校验兜底，成本高但稳。

建议你直接给Agent加个“拒答”动作，模型一旦触发就禁用工具，比啥话术都管用。

纯prompt确实有天花板，我后来直接套了层校验逻辑，答非所问就拦截重生成，省心多了。

结构化输出才是解药，强制它填“确定/不确定”字段，比写一百句“别编”都管用。

纯靠prompt确实顶不住，尤其多轮对话里模型很容易被带跑偏。我这边是system prompt里明确要求“不确定就输出UNKNOWN”，然后外面套一层规则校验，如果返回这个标记就直接给用户回复“暂未收录”，效果比单纯吓唬它稳定多了。

另外你试试把few-shot例子放在用户消息里，而不是系统提示里，有时候上下文位置的影响比想象中大。还有个土办法，就是限制生成温度调低点，编造的概率会小一些，但牺牲点多样性。

要是业务允许的话，最好还是让模型先做意图分类，走固定流程，别让它自由发挥，这样可控性会好很多。

纯靠prompt确实有天花板，尤其对话轮次一多，模型注意力一分散就容易飘。我后来是强制结构化输出，让agent先返回一个带“confidence”字段的JSON，低于阈值就自动走“暂未收录”分支，比在prompt里反复强调管用得多。你还可以在外面套个简单的规则校验，比如检测到“不确定”“可能”这类词就拦截，别让它在客户面前含糊过去。

另外few-shot例子别放太长的，放那种极端简短的“不知道”响应反而更有效。我试过把“编造”的后果写成扣钱或者用户投诉截图，效果也就那样，模型根本不在乎。说到底还是得靠代码兜底，prompt只能当辅助。你现在是用function calling还是纯文本输出？