最近在做一个客服场景的AI Agent,用ReAct框架让模型自己决定调哪个工具。结果发现一个很奇怪的现象:不加Few-shot示例的时候,模型虽然偶尔选错工具,但基本能走完流程。可我按官方文档加了3个Few-shot示例后,反而频繁出现反复调用同一个工具、停不下来的情况,Thought里还会重复输出一样的句子。温度调到0也不行。是我示例的格式有问题,还是ReAct本身就不太适合加Few-shot?有没有人踩过类似的坑?
最近在做一个客服场景的AI Agent,用ReAct框架让模型自己决定调哪个工具。结果发现一个很奇怪的现象:不加Few-shot示例的时候,模型虽然偶尔选错工具,但基本能走完流程。可我按官方文档加了3个Few-shot示例后,反而频繁出现反复调用同一个工具、停不下来的情况,Thought里还会重复输出一样的句子。温度调到0也不行。是我示例的格式有问题,还是ReAct本身就不太适合加Few-shot?有没有人踩过类似的坑?
暂无回复,快来抢沙发吧