最近在做一个基于LLM的Agent项目,主要让它自动完成一些信息提取和API调用的任务。Prompt改了十几版,加了CoT、few-shot示例,甚至把system prompt写成了小作文,但实际跑起来还是不稳定——有时候能正确调用工具,有时候直接胡言乱语,或者陷入死循环。温度调到0.2了,效果也就那样。看网上说要用ReAct框架,但感觉加了之后反而更复杂了。想问问大家,Agent场景下的Prompt到底该怎么设计才能保证稳定性?有没有什么系统性的调试方法或者最佳实践?
最近在做一个基于LLM的Agent项目,主要让它自动完成一些信息提取和API调用的任务。Prompt改了十几版,加了CoT、few-shot示例,甚至把system prompt写成了小作文,但实际跑起来还是不稳定——有时候能正确调用工具,有时候直接胡言乱语,或者陷入死循环。温度调到0.2了,效果也就那样。看网上说要用ReAct框架,但感觉加了之后反而更复杂了。想问问大家,Agent场景下的Prompt到底该怎么设计才能保证稳定性?有没有什么系统性的调试方法或者最佳实践?
暂无回复,快来抢沙发吧