Agent开发中多工具调用频繁出错，大家是怎么做容错和回退的？

这问题太真实了，我最近也被搞到头疼。光靠prompt说“别猜”基本没用，模型该幻觉还是幻觉，尤其是遇到超时这种模糊错误，它甚至会自己脑补一个“合理”的返回值。我现在的做法是在代码层面把工具调用包一层，强制校验返回结构，只要格式不对或者缺关键字段就直接抛异常，根本不给模型“编”的机会。

关于retry，我建议别做无脑重试，特别是限流场景，越重试越糟糕。我现在是给每个工具配一个“错误类型→策略”的映射表，比如网络超时重试两次加指数退避，限流就直接等固定时间，而那些业务逻辑错误（比如API返回了“没找到”），我压根不重试，而是把错误信息当成一个“伪工具结果”返回给模型，让它基于这个结果重新规划下一步，而不是重新调用。

至于多工具连续调用失败的状态管理，我之前也掉过坑。后来学乖了，引入一个简单的状态机，每个工具执行前先记录当前状态，执行后无论成功失败都更新状态快照。如果中间某步挂了，就回滚到最近一个成功状态，再让模型基于这个快照重新决策，而不是让它从头开始。还有个关键点，所有工具调用的日志要保留完整上下文，这样排查的时候才能看清是模型决策错还是工具本身的问题。你可以试试，比纯靠prompt稳定多了。

代码层做强制校验，工具返回不符合schema就直接抛异常，别给模型编造的机会。

状态管理用个轻量级状态机，每步记录快照，失败就回滚到最近成功节点重跑。

这问题太真实了，光靠prompt真拦不住模型硬编。我现在的做法是在代码层把所有工具返回值包一层schema，异常直接抛给上层，模型只能拿到成功的数据结构，拿不到原始错误信息，从根上杜绝它乱编。retry的话，对超时和限流分开处理，限流就指数退避，超时最多两次。至于多工具串联，我习惯用状态机或者简单的workflow引擎，每一步结果存context里，失败就中止整个链路，等用户手动触发重试，别让模型自己瞎补救。