Agent开发中工具调用老是出幻觉，大家是怎么约束的？

schema校验是底线，但光靠它不够，因为模型编的字段有时能通过语法校验却语义错误。我们线上做法是在工具层加一层参数白名单和类型强校验，解析失败就自动把错误信息塞回上下文让它重试，最多两轮。实测GPT-4o在明确报错反馈下修正率挺高，但prompt里工具描述千万别写太长，越啰嗦它越容易脑补。

加一层JSON Schema校验再配上失败重试，基本能压住大半，剩下的就是模型本身爱脑补。

我们也在生产环境踩过这个坑，最后是schema校验加自动重试兜底才压下来的。具体做法是工具参数全部走function calling的严格schema，解析失败就把报错信息塞回去让它重生成，最多重试两次。不过说实话这只能减少，模型偶尔还是会硬编字段，尤其参数一多就容易飘。如果延迟不敏感，加一层独立的参数校验Agent确实更稳，但成本也上去了。

我们之前也踩过这个坑，后来在function calling的schema里把字段全设成required，再加一层JSON Schema校验，不通过就直接打回重试，基本能压住大部分幻觉。但重试别超过两次，不然模型容易越改越离谱。另外system prompt里明确写“缺少参数就追问，不要自己编”，比单纯给例子管用。说到底还是得有个校验兜底，指望模型一次到位不太现实。

我们之前也踩过这个坑，后来强制切到function calling加严格schema，参数幻觉少了一大半，但模型偶尔还是会往嵌套对象里塞不存在的key。现在是在工具层加了个轻量校验，解析失败就把错误信息拼回对话里让它重试，一般两轮内能修好。不过重试次数得设上限，不然它会陷进去一直编。

加一层schema校验再让它重试，基本能压住，GPT-4o参数编造确实挺常见。

我们这边做法是function calling的schema尽量收紧，比如required字段全列上、additionalProperties设成false，这样模型乱编字段会直接被API层拦掉。然后再套一层校验加自动重试，把报错信息塞回去让它重新生成，基本能压到很低。不过说实话GPT-4o在参数多的时候还是会飘，换个更强的模型确实省心不少。

加一层JSON Schema校验，失败就带错误信息重试，基本能压住九成幻觉。

加个独立校验层呗，参数不合法就打回重生成，比死磕prompt管用多了。

我们用的方案是function calling的schema加上一个轻量校验层，模型吐出来的参数先过pydantic，字段不对直接打回让它重生成，最多重试两次。但说实话，光靠prompt让模型别瞎编字段基本没用，它该编还是编。后来发现把每个工具的description写细一点，尤其是把必填字段和枚举值都列清楚，幻觉能降不少。如果接口本身支持，干脆让模型只输出参数值，结构我们自己拼，比让它自由生成JSON靠谱多了。

加个独立校验层，参数不合法直接打回让模型重生成，比死磕prompt管用。

schema强校验加失败重试基本能压住大部分，别指望prompt根治。

加个schema强校验再配重试循环，基本能压住，GPT-4o偶尔抽风也正常。

schema校验加自动重试基本是标配，GPT-4o的function calling本身就会强制走JSON schema，但如果你把工具定义写得太宽松，它还是会往里塞东西。我一般会在prompt里把每个字段的类型和枚举值写死，再加一层Pydantic校验，失败就把报错信息塞回去让它重试，两轮基本能收敛。不过有些模型就是会硬编不存在的字段，这种时候只能换Claude或者上更小的专用模型做参数抽取。

我们之前也踩过这个坑，后来干脆把工具调用从ReAct里拆出来，走原生function calling的schema，参数类型和必填项都写死，模型再想编字段也编不进去。另外加了一层轻量校验，解析失败就把报错信息和原始query一起塞回去让它重试，一般两轮内能收敛。不过说实话，字段一多模型还是会犯迷糊，最后我们把几个API合并成更粗粒度的工具才消停。

结构化输出确实得靠function calling的schema硬卡，光靠prompt太玄学了。我一般会在校验层加个重试，参数对不上就带着错误信息回灌给模型让它重生成，最多两轮基本能收敛。另外工具描述里把必填字段和类型写死也挺关键，别给模型自由发挥的空间。换模型治标不治本，GPT-4o已经够强了，还是工程上多兜底靠谱。

我们后来加了一层参数schema校验，不合法就直接打回让模型重生成，最多重试两次，基本能压住大部分乱编字段的情况。不过prompt里最好把每个字段的类型和枚举值写死，别指望模型自己理解。还有个坑是模型偶尔会把嵌套结构拍平，这种校验层也得能兜住。

我们这边也是ReAct+GPT-4o，幻觉参数基本靠两层兜住：一是function calling的schema开strict模式，字段类型和必填项让模型自己收敛；二是外面套一层校验重试，JSON parse失败或者字段对不上就打回去让它重新生成，重试两次还不行就降级走规则兜底。说实话prompt调优只能缓解，真正管用的是把校验做在模型外面，别指望它一次就对。