最近在用GPT-4做客服场景的意图识别,大概写了十几个版本的prompt。每次改完感觉某几个case好了,但之前没问题的case又挂了,来回横跳。目前就是手动拿十几个测试用例跑一遍,眼睛看输出,改几个词再跑,效率极低而且很主观。想问下大家在实际项目里是怎么管理prompt版本的?有没有什么工具或者方法论能像单元测试一样,改完prompt自动跑回归、看通过率?还是说只能靠经验和玄学……真诚求教。