大家做AI Agent的时候，工具调用的稳定性怎么保证？
最近在这个方向上踩了不少坑，想听听大家的实际经验。
楼主
24天前
大家做AI Agent的时候，工具调用的稳定性怎么保证？
请 登录 后发表回复
全部回复
共 2 条
2楼
23天前
这个问题确实挺头疼的，我最近也在搞这块。我的经验是别指望模型一次就能把参数拼对，得在工具层做严格的schema校验，参数不对就直接打回去让模型重试，别硬着头皮往下走。另外超时和重试策略也得配好，有些工具挂了会一直卡在那，拖垮整个链路。还有个坑是工具返回的结果格式不稳定，最好在中间加一层解析和兜底逻辑，不然模型拿到脏数据就开始胡言乱语了。
3楼
23天前
工具调用这块我现在基本放弃了指望模型一次就调对，太不现实了。我现在的做法是把每个工具的参数校验做得很死，schema 写严格一点，类型不对、必填缺失直接打回去让模型重试，别让它带着脏参数往下跑。另外重试策略也挺关键的，不能无脑重试，得区分是网络抖动还是模型压根理解错了，前者可以retry，后者重试多少次都没用，不如把错误信息塞回去让它重新想。还有个坑是工具返回结果太长，模型容易看花眼，我现在都会做一层截断或者摘要再喂回去。并行调用也要小心，有些工具之间有依赖关系，模型经常不管三七二十一一起发出来，结果后一个依赖前一个的输出就崩了。说到底还是得在工程层面兜底，别全指望prompt能解决。