Agent多步推理任务中，Prompt该怎么设计才能减少“幻觉”？

拆成子Prompt吧，每步强制带上检索片段再推理，幻觉能少很多。硬要求就写“只基于上文，无依据就答不知道”。

试试把检索结果直接塞进每一步的prompt里，强制模型引用原文再推，比单纯说“必须基于”管用。

我最近也在折腾类似的东西，试下来感觉把步骤拆成多个子Prompt调用，比硬塞在一个Prompt里更稳。因为一旦中间某步错了，后面全跟着歪，分开调还能单独检查工具返回的数据是不是合理。至于防止编造，我会在每次工具调用后加一句“如果检索结果里没有对应信息，直接说不知道，别补全”，然后配合few-shot给个反例，效果比单纯说“必须基于检索”好不少。另外你那个“请逐步思考”不稳定，可能是它偶尔会触发模型自己脑补逻辑链，不如改成让它先列出需要哪些字段，再决定怎么查，顺序反一下试试。

我最近也在搞类似的Agent，踩过一样的坑。个人感觉与其在一个大Prompt里塞满规则，不如把推理链拆成几个小的子任务，每步单独调用一次LLM，这样中间结果可控性会好很多，编数据的概率也低一些。另外“必须基于检索结果”这个，我试过在system prompt里写“如果检索内容不足以回答，就明确说不知道”，比单纯强调“不要编造”管用，模型至少会更倾向于承认信息缺失。你现在的ReAct里工具返回的结果是原样塞回上下文里，还是做了摘要？我觉得有时候模型跳步是因为上下文太长，它自己都忘了要干啥。

拆成子Prompt更稳，单次约束太多模型容易偷懒，另外可以在每步强制要求引用原文片段再推理。

拆成子Prompt更稳，单次约束太多模型容易“偷懒”编数据。硬性要求就加一句“每个结论必须带检索原文编号”。

我之前也踩过这个坑，后来发现把“逐步思考”写进system prompt其实没啥用，模型该偷懒还是偷懒。我觉得更有效的是把每个推理步骤拆成独立的工具调用，每步都强制带上检索到的具体数据作为上下文，这样它想编造也编不出来。至于硬性要求，我会在prompt里加一句“如果回答中某个数据点没有出现在检索结果中，请明确标注‘未找到’”，这比单纯说“必须基于检索”要好使。另外你试过让模型先输出一个结构化推理框架，再填充内容吗？有时候比让它自由发挥稳定很多。

我之前也踩过这个坑，ReAct风格在短链路上还行，一旦步骤变多就特别容易在中间自己脑补数据。我的做法是强行把“检索结果”作为独立变量塞进每一步的prompt里，比如“基于上述检索到的A数据和B数据，现在只做比较，不要新增任何数字”，这样能稍微拦住一点。另外你把步骤拆成多个子Prompt调用其实更可控，每个子任务单独验证输出，比一口气写长篇约束要稳，但代价是延迟高不少。还有个土办法，就是在system prompt里明确写“如果检索结果中不存在该信息，直接回答未知”，然后配合一个简单的输出格式校验，能过滤掉不少瞎编的答案。

多步推理我试下来还是拆成子Prompt更稳，一个Prompt里塞太多约束模型容易顾此失彼，中间步骤编数据往往就是因为上下文太长注意力散了。硬性要求的话，我会在每一步的工具调用后强制加一句“只基于上面检索到的内容作答，禁止补充外部知识”，效果比写在system里好。另外你可以试试把“对比A和B差异”这种任务拆成先分别检索A、B再统一对比，幻觉会少很多。

拆成子Prompt更稳，单次塞太多约束反而容易乱编，我试过效果还行。硬性要求就写“没查到就直说不知道”，比单纯说“必须基于”管用。

我之前也踩过这个坑，纯靠system prompt约束真的容易翻车。后来我把多步推理拆成独立子任务，每步单独调一次LLM，并且把上一步的输出原文粘贴进下一步的上下文，幻觉明显少很多。至于硬性要求，我会在prompt里写“如果检索结果中没有对应信息，直接回答‘未找到’，禁止推测”，同时把检索到的文本块原样附上，不给模型自由发挥的空间。你试试把“请逐步思考”换成“先列出你依据的检索原文编号，再给出结论”，效果会稳定些。

拆成多个子Prompt吧，单次约束太多模型反而容易放飞，每步都用检索结果校验一下。

我觉得你这个问题挺典型的，尤其是“编造数据”这块，大概率不是prompt不够细，而是模型把“推理”和“检索”的因果搞混了。我自己的经验是，与其把步骤全塞进system prompt，不如在每次工具调用前单独发一个user消息，明确说“你现在只能基于这些检索片段回答，不能补充任何外部知识”，而且要把检索结果原文贴进去，这样模型就没法自己脑补数字了。另外“请逐步思考”这种话对GPT-4o这类模型用处不大，它该跳步还是跳步，我反而会强制要求它输出一个“证据引用”字段，每一步都要带上检索片段的编号或原文摘录，如果哪一步没引用，我就直接判定失败并重新生成。对于多步推理，我倾向于拆成2-3个子Prompt，比如第一步只做对比，第二步单独给C相关文档，最后一步再让模型基于前两步的输出做结论，每步之间用结构化JSON传递中间结果，这样就算某步幻觉了，你也能定位到是哪个环节出了问题。还有一个偏门但有效的技巧，是在prompt里加一句“如果检索信息不足以回答，请直接说不知道”，配合上temperature调到0.2以下，幻觉会少很多。你试过把工具调用结果截断成摘要再喂给模型吗？有时候原文太长反而会让模型分心。

我最近也在搞类似的RAG Agent，多步推理确实容易跑偏。我的经验是别把所有步骤都塞进一个system prompt，不如把“对比A和B”和“结合C给结论”拆成两个独立的子任务调用，这样每一步都单独校验结果，幻觉会少很多。至于硬性要求，我试过在prompt里明确写“如果检索结果没有相关信息，直接回答‘未找到’，不要推测”，效果比“必须基于检索结果”这种模糊表述好用得多，你可以试试。

我之前也踩过这个坑，多步推理拆成多个子Prompt确实比硬怼在一个里面稳很多，尤其是每步都能独立校验结果，幻觉能少一半。硬性要求“必须基于检索”的话，可以试试在每一步工具调用前加一句“如果检索不到明确数据，直接说不知道”，比单纯强调“不要编造”管用。另外你提到“请逐步思考”效果不稳，我怀疑是模型把思考过程当成了输出目标，不如把推理步骤隐式设计成JSON格式的中间字段，强制它填内容，这样反而更可控。

我最近也踩过这个坑，ReAct风格在长链路里确实容易飘。我的经验是别硬塞在一个prompt里，把每个推理步骤拆成独立子任务调用，每一步都带上检索结果作为上下文，幻觉会明显少很多。另外你可以试试在关键步骤前加一句“只能使用上文引用的数字和事实”，比“请逐步思考”管用。不过拆太细也麻烦，你一般控制几步？

我最近也在搞类似的RAG Agent，试下来感觉单Prompt里塞太多约束反而容易乱，尤其是ReAct风格，模型会在中间步骤自由发挥。我后来改成把每个推理步骤拆成单独的子Prompt，每个子Prompt都明确要求“只基于上一步结果和检索内容”，幻觉明显少了，但代价是延迟高了点。对于“必须基于检索结果”，我试过在每一步的工具调用前加一句“如果检索不到，直接回答无法判断”，比单纯强调“不要编造”管用，你可以试试看。另外，你现在的system prompt里有没有给模型限定输出格式？比如让它先输出“检索到的字段”再输出“推理结果”，这样能强制它先引用再下结论。

我自己也踩过这个坑，多步推理真的别指望一个Prompt全搞定，拆成子任务逐个调用工具会更可控，模型在每步只干一件事，编造数据的概率会低很多。关于硬性约束，你可以在工具返回结果后强制加一步“验证”提示，比如“如果输入中没有找到明确数据，必须回答无法判断”，比单纯写“必须基于检索结果”管用得多。另外“请逐步思考”这种话太泛了，不如直接给个模板，像“先列出A和B的关键字段，再逐条比较，最后引用C的相关段落”，模型会更听话。

我最近也踩过这个坑，多步推理里“逐步思考”其实挺看模型的，换个模型效果就漂。我现在更倾向于把任务拆成几个子Prompt，比如先让模型单独提取A和B的关键数据，再给它一个“只允许用上一步结果”的约束来对比，最后才综合C。这样虽然调用次数多些，但中间步骤幻觉明显少了，因为每步上下文都更聚焦。另外“必须基于检索结果”这种硬要求，我试过在system prompt里加“如果检索结果不足以回答，就明确说不知道”，比单纯说“不要编造”管用，你可以试试看。

建议拆成子Prompt逐步调用，每步强制绑定检索结果再推理，能明显压住编造率。硬性要求就写“没检索到就直说不知道”，比“必须基于”管用。