最近在做一个基于ReAct范式的Agent,接入了搜索和代码执行两个工具。发现一个很头疼的问题:系统Prompt里把工具描述、输出格式、few-shot示例都塞进去之后,稍微多轮对话几次,模型就开始胡言乱语,要么忘记调工具,要么把工具返回结果直接当用户输入。试过把示例精简,但效果又变差。看网上说可以用动态Prompt或者把历史压缩,但具体怎么落地不太清楚。想问问各位在实际项目里是怎么组织Prompt结构的?有没有什么踩坑经验?
最近在做一个基于ReAct范式的Agent,接入了搜索和代码执行两个工具。发现一个很头疼的问题:系统Prompt里把工具描述、输出格式、few-shot示例都塞进去之后,稍微多轮对话几次,模型就开始胡言乱语,要么忘记调工具,要么把工具返回结果直接当用户输入。试过把示例精简,但效果又变差。看网上说可以用动态Prompt或者把历史压缩,但具体怎么落地不太清楚。想问问各位在实际项目里是怎么组织Prompt结构的?有没有什么踩坑经验?
暂无回复,快来抢沙发吧