最近在搞一个电商客服的demo，用的GPT-3.5，api直调那种。产品那边要求它回答商品库存、退换货政策这些，但我发现prompt写简单了它就开始乱编，比如“这个商品目前有货”但实际没货。试过加“只回答你确切知道的信息”，结果它直接回“我不清楚”连政策都不解释了。有没有大佬分享下实际项目里，怎么设计prompt结构让模型既准确又能结合上下文？比如要不要把知识库塞进去？或者用system message做角色设定是不是比user prompt更稳？先谢过！
最近在搞一个电商客服的demo，用的GPT-3.5，api直调那种。产品那边要求它回答商品库存、退换货政策这些，但我发现prompt写简单了它就开始乱编，比如“这个商品目前有货”但实际没货。试过加“只回答你确切知道的信息”，结果它直接回“我不清楚”连政策都不解释了。有没有大佬分享下实际项目里，怎么设计prompt结构让模型既准确又能结合上下文？比如要不要把知识库塞进去？或者用system message做角色设定是不是比user prompt更稳？先谢过！
我们项目里也是GPT-3.5做客服，踩过一模一样的坑。光靠system message说“别瞎编”真没啥用，该编还是编。后来改成把商品库存、退换货政策这些实时数据先查出来，作为上下文塞进prompt里，明确告诉它“只根据以下信息回答”，效果才稳。另外温度调到0.2左右也有帮助，你可以试试。