最近在做一个小项目,用GPT-4处理客服对话分类。我在Prompt里写了详细的角色设定、输出格式,还给了几个few-shot例子,单测的时候效果还行,但一上真实数据就翻车。比如用户说“我要退货”,它有时能分类成“售后”,有时又变成“咨询”。我试过调整措辞、加约束条件、换温度参数,但感觉像是盲人摸象,没有一个系统性的方法去判断哪里出了问题。想问下大家,你们在实际项目里是怎么评估和迭代Prompt的?有没有什么工具或者debug的思路?还是说这种波动本来就是正常的,得靠后处理兜底?求指点,谢谢。