最近在搞一个小项目，需要用GPT生成一些数据处理脚本，我特意在prompt里给了三段示例代码，明确说“请模仿这种风格和逻辑写”。结果它每次都只参考第一段，后面两段完全不理，输出格式也乱。我试过把示例放在最后、用分隔符标出来，甚至加“重点注意第二段”这种强调，但效果还是不稳定。是不是我的prompt结构本身有问题？还是说长上下文下模型会丢失注意力？有没有什么更靠谱的写法能让它严格按我的示例走？新手求指点，感谢！
最近在搞一个小项目，需要用GPT生成一些数据处理脚本，我特意在prompt里给了三段示例代码，明确说“请模仿这种风格和逻辑写”。结果它每次都只参考第一段，后面两段完全不理，输出格式也乱。我试过把示例放在最后、用分隔符标出来，甚至加“重点注意第二段”这种强调，但效果还是不稳定。是不是我的prompt结构本身有问题？还是说长上下文下模型会丢失注意力？有没有什么更靠谱的写法能让它严格按我的示例走？新手求指点，感谢！
我也遇到过这个问题，感觉GPT对后面示例的注意力确实会衰减，尤其是上下文一长。你可以试试把三段示例拆成单独的指令，比如先让它“参考示例1写函数结构”，跑完再给示例2让它改逻辑，分步来反而更稳定。另外加个“输出前请对照这三段示例自检一遍”的指令，效果比单纯强调好很多。