最近在试部署一个开源大模型(7B)做公司内部客服问答,但发现prompt稍微写长一点,回答就开始乱飘,甚至会自己编造产品参数。我试过把知识库内容直接塞进prompt,但模型总在中间部分遗漏关键信息。请问大家一般怎么写系统提示词?是把对话历史、角色设定、知识库分段用markdown隔开,还是有什么更稳的结构?另外,模型对指令的遵循程度是不是跟温度参数也有关系?有没有大佬分享一下实战经验,感激不尽!