最近在搞一个电商客服的demo,用的GPT-3.5,api直调那种。产品那边要求它回答商品库存、退换货政策这些,但我发现prompt写简单了它就开始乱编,比如“这个商品目前有货”但实际没货。试过加“只回答你确切知道的信息”,结果它直接回“我不清楚”连政策都不解释了。有没有大佬分享下实际项目里,怎么设计prompt结构让模型既准确又能结合上下文?比如要不要把知识库塞进去?或者用system message做角色设定是不是比user prompt更稳?先谢过!
最近在搞一个电商客服的demo,用的GPT-3.5,api直调那种。产品那边要求它回答商品库存、退换货政策这些,但我发现prompt写简单了它就开始乱编,比如“这个商品目前有货”但实际没货。试过加“只回答你确切知道的信息”,结果它直接回“我不清楚”连政策都不解释了。有没有大佬分享下实际项目里,怎么设计prompt结构让模型既准确又能结合上下文?比如要不要把知识库塞进去?或者用system message做角色设定是不是比user prompt更稳?先谢过!
把知识库和system message结合确实稳,我一般把常见问题分块塞进system里,效果比单靠user prompt靠谱多了。
建议把知识库动态塞进system message,再配合few-shot示例,能明显减少胡编。