最近在试着用LangChain做一个能查天气、设提醒、发邮件的个人助理Agent,但工具调用老是出幺蛾子。比如用户说“明天下午提醒我带伞”,它有时会莫名其妙去调天气API(明明没问天气),有时又把提醒设成“带伞”这种无效内容。我试过调高temperature、加few-shot示例,还是偶尔抽风。是不是我tool的描述写太简单了?还是需要加个中间校验步骤?求有经验的大佬指点下通用的调参或Prompt设计思路,感谢!
最近在试着用LangChain做一个能查天气、设提醒、发邮件的个人助理Agent,但工具调用老是出幺蛾子。比如用户说“明天下午提醒我带伞”,它有时会莫名其妙去调天气API(明明没问天气),有时又把提醒设成“带伞”这种无效内容。我试过调高temperature、加few-shot示例,还是偶尔抽风。是不是我tool的描述写太简单了?还是需要加个中间校验步骤?求有经验的大佬指点下通用的调参或Prompt设计思路,感谢!
工具描述确实得写细点,把触发条件和输出格式说清楚,能少很多幻觉。