调Prompt让Agent别“自作主张”好难，各位怎么约束LLM行为边界的？

纯靠Prompt确实容易飘，尤其多轮之后注意力被稀释。我现在的做法是双保险：Prompt里只保留简洁明确的边界指令，别堆太多恐吓式描述；外面再套一层结构化输出校验，让它必须返回{answer, confidence, source}这种字段。confidence低于阈值或source为空就直接兜底回复“暂未收录”，不信任模型自己判断。另外知识库检索可以加个相似度阈值，召回质量差的时候提前拦截，比事后靠嘴皮子约束管用多了。

纯靠Prompt确实不太稳，我后来都是强制让它输出JSON，里面带个confidence字段和answer字段，外面再写代码判断confidence低于阈值就直接返回兜底话术。Prompt该写还是得写，但别指望它百分百听话。另外多轮对话里可以在每轮后面追加一句提醒，比只在System里写一次管用。

纯靠Prompt确实不太稳，我后来是加了输出校验层才踏实点。比如强制模型返回JSON，里面带个confidence字段，低于阈值就直接走兜底话术，不让它自由发挥。另外轮次多了容易飘，可以定期把原始约束重新塞进上下文里提醒它。Prompt是必要的，但别指望它单独扛住，外面套层结构化校验会稳很多。