用Prompt调大模型做摘要，加例子反而变差了，是我写法有问题吗？

我之前也踩过这个坑，few-shot真不是万能药。你那个问题大概率是示例和当前文档的主题太接近，模型直接“抄作业”了，试试换成跟任务无关的通用示例，或者把示例里的关键实体换成占位符。另外可以加一句“严格基于输入内容，忽略示例中的具体事实”试试，能压住不少幻觉。还有就是示例顺序也有影响，把最标准的那组放前面，后面跟一组反例（比如“以下是不好的摘要”），模型反而更容易get到边界。

这题我太有同感了，few-shot对摘要任务真不如直接给强指令管用。你试试在Prompt里加一句“严格基于原文事实，禁止使用示例中的任何名词和句式”，然后只保留一个负面案例（比如故意写一个不聚焦的摘要），模型反而会更容易理解边界。另外把示例放在指令前还是后差别也很大，我一般放在最后，让模型先理解规则再参考。

这问题我也踩过坑，few-shot真不是越多越好。你描述的情况很典型，模型很容易把示例里的句式甚至专有名词带进新输出，尤其是示例跟目标文档主题接近的时候。我后来试过把示例放在指令最前面，再明确加一句“以下示例仅为格式参考，内容必须严格基于新文档”，效果会稳一些。另外你也可以试试给示例之前先写“不要重复示例中的任何事实信息”，会好很多。

说实话我最近也踩过类似的坑，加few-shot之后摘要反而跑偏，后来发现问题可能不在例子数量，而在你给的示例本身是不是“太干净”了。模型其实很擅长抓示例里的结构特征，比如你示例里如果总爱用“首先…然后…最后”这种框架，它就容易把新文档也硬套成这个逻辑，哪怕原文根本不适合这么概括。另外我怀疑你是不是把示例放在指令后面直接连着输出了？有时候把例子放在最前面、再用分隔符隔开，模型会更清楚“哪些是参考、哪些是任务”，不然它容易把示例和待处理内容混在一起。还有一个笨办法，就是给每条示例后面加一句“这是一个优秀摘要的示范”，或者明确写“不要使用示例中的具体信息，只参考其风格”，控制力会强很多。说到底，few-shot不是越多越好，尤其摘要这种任务，模型对“长度”和“信息密度”特别敏感，你不如试试只留一个例子，或者干脆换成一正一反两个例子（一个优秀版、一个糟糕版），让它对比着学，反而更聚焦。我现在的习惯是先零样本跑一版，再挑最不满意的部分针对性加约束，比一次性堆例子省心多了。

试试把例子放在指令后面，再加一句“仅参考格式，勿引用内容”，我这么调有效果。
例子选太像的确实容易带偏，换成一正一反试试。

说实话我遇到过一模一样的坑，加few-shot之后摘要反而带上了示例的“口音”，尤其是当示例里有些独特名词或者句式时，模型很容易当成模板去套。我后来分析了下，可能是你把示例放在指令和待摘要文档之间，模型对“最近位置”的信息权重更高，所以它会把示例内容当成更重要的上下文去模仿。我自己的做法是，如果非要加例子，就把例子放在最后，并且明确标注“以下是示例，仅用于参考格式，禁止摘录内容”，效果会好一些。另外你可以试试把摘要要求拆得更细，比如先让它列要点再生成连贯段落，比单纯给例子更能控制聚焦度。还有一点，长文档摘要其实更适合用两阶段法，先分段压缩再合并，一次性让模型看全文加示例，注意力很容易被分散。你那个“例子太有代表性”的猜测也有道理，我建议你换个更中性、和业务无关的短例子，或者干脆回到zero-shot，但把指令改成“用三个核心论点+每个论点一句话支撑”的结构化要求，效果可能更稳。

遇到过一模一样的坑，后来我干脆把few-shot砍掉只留一个例子，效果反而稳了。你这情况大概率不是例子数量的问题，而是“示例污染”——模型在长文本里对示例的注意力权重会异常高，尤其是当你的示例摘要里带有某种强情感色彩或专有名词时，它容易当成“模板”去套，甚至直接抄词。我猜你选的例子是不是都偏向某种结构，比如“先总后分”或者“问题-对策”型？那模型就会强行把新文档也拆成那个骨架，内容自然就散了。

另一个思路是，你可以试试把示例放在指令后面，但用XML标签或分隔符明确框起来，比如“以下为参考示例，仅用于格式参考，禁止引用其内容”，同时加上“忽略示例中的具体事实”这种负面控制。我最近做技术文档摘要就是这么干的，效果比单纯堆例子好很多。

还有个细节：你说200字，但示例的长度如果和实际文档差太多，模型也会懵。比如示例都是500字原文配30字摘要，突然来一篇2000字的文档，它就不知道压缩比例该是多少了。建议示例的输入长度尽量贴近你的真实任务分布。

如果你实在想保留few-shot，可以试试只给一个反面例子——就是“这种写法是错误的，不要这样总结”，有时候比正面例子约束力更强。我试过几次，模型反而会谨慎很多。最后记得检查一下temperature，摘要任务我一般调到0.3以下，太高了它容易自由发挥把示例里的句子揉进去。

我也遇到过类似情况，后来发现是示例里的信息太具体，模型很容易把它们当成模板往里套。你可以试试把示例换成抽象结构的示范，比如只展示“原文主题+摘要逻辑”而不带具体事实。另外摘要任务本来就不太适合few-shot，指令里把字数、侧重点、禁止引入外部信息写清楚，往往比塞例子更稳。

例子太长或太像原文确实容易带偏，试试换成短摘要或者干脆零样本更稳。

这个坑我也踩过，而且不止一次。few-shot确实不是万能药，摘要任务尤其容易翻车，因为模型会特别认真地模仿你给的例子结构，连措辞和关注点都会跟着走。你遇到的“示例关键信息混进新摘要”其实挺典型的，就是模型把示例当成了任务模板的一部分，而不是单纯的风格参考。我后来发现一个比较有效的做法是把示例和待处理内容用明确的分隔符隔开，比如用三引号或者XML标签包起来，同时在指令里强调“示例仅用于说明摘要风格和粒度，不要复用其中任何事实信息”。另外例子数量也有讲究，两组有时候反而让模型在两个模板之间摇摆，不如只用一组高质量的例子，或者干脆zero-shot加更细的约束条件。顺序上我试过把示例放在指令之前和之后，差别没有想象中大，但放在指令之后、待摘要内容之前会稍微稳一点。还有个思路是别用完整的长文档做示例，改用短段落配短摘要，降低模型对示例内容的记忆强度。你现在这个情况我建议先退回zero-shot，把“200字”换成更具体的约束，比如“按时间线梳理三个核心事件，每点不超过60字”，往往比加例子更可控。

我遇到过几乎一样的情况，加了few-shot之后摘要反而开始“抄”示例里的措辞和关键词。后来发现一个挺关键的点：示例本身如果太长或信息太密，模型会把它当成模板去套，而不是学“怎么概括”。你选的两组例子是不是都偏同一种风格？试试把示例压到很短，只保留结构上的示范，别让内容太抢戏。还有一个可能是顺序问题，示例放在指令前还是后影响挺大的，我一般把任务描述和约束放最后，模型更容易盯住当前要求。另外你可以在指令里明确写“不要复用示例中的任何具体信息”，这句有时候真能救回来。少数情况下few-shot确实不如zero-shot，特别是摘要这种模型本身就会的任务，加例子反而是画蛇添足。

例子太像确实会带偏，试试只留一个或者干脆换成零样本加“别抄示例”这句。

我也踩过这个坑，后来发现长文档摘要加few-shot确实容易翻车，因为示例里的具体信息太“抢戏”了，模型会忍不住往新摘要里塞。你可以试试把示例换成抽象一点的“摘要风格模板”，比如只展示结构不写具体内容，或者干脆回到zero-shot但把指令写细，比如“只保留结论和关键数据，不要出现原文没有的人名地名”。另外例子顺序影响挺大的，把最贴近目标格式的放最后往往更稳。

我也遇到过类似情况，few-shot做摘要确实容易翻车，模型会不自觉地抄示例里的措辞甚至内容。后来我改成在指令里明确写“示例仅用于参考格式，不要复用其中任何信息”，情况好了不少。另外示例别选太相似的，不然模型会硬套，反而丢了对新文档的概括能力。你可以试试零样本加一句“先提取要点再压缩”，有时候比塞例子更稳。

我也遇到过，加完示例后模型就开始“抄”例子里的措辞和细节，尤其示例和原文主题接近时特别明显。后来我把示例换成跟当前文档领域差得比较远的，或者干脆只留一组，反而稳了。另外摘要任务里示例最好带上明确约束，比如“只保留结论性信息，不要出现示例中的实体名”，不然模型很容易把示例当模板硬套。你试试把示例精简到一组，再在指令里强调“仅参考格式，不参考内容”。

我也踩过这个坑，后来发现few-shot做摘要真不一定越多越好。你选的两组例子如果领域或风格太接近，模型就容易照搬结构甚至串信息，特别是长文档本来冗余就多。可以试试只留一个例子，再加一句“不要照抄示例中的具体信息，只参考格式”，或者干脆换成zero-shot加更细的输出约束。顺序上把示例放最后、指令放最前面有时也会稳一点。

这事儿挺常见的，我前段时间做合同摘要也踩过一模一样的坑。few-shot不是万能药，尤其摘要这种任务，示例本身就是在告诉模型“什么叫好摘要”，你给两组，它就会拼命往那个风格和内容上靠。如果示例里有些具体细节比如金额、日期、专有名词，模型很容易把它们当成“这类摘要该出现的东西”，硬塞进新文档里。我后来试下来，示例数量其实不是关键，一组高质量的比三组凑数的强得多，而且最好把示例里的具体信息抽象化，比如用占位符或者干脆选那种内容完全不相关的文档做例子。另外你少了一个很重要的控制指令，就是明确告诉模型“只依据当前文档内容，不要引入示例中的任何信息”，这句话加上去效果差别很大。顺序上也有讲究，我习惯把指令放最前面，示例放中间，最后再重复一遍核心要求，这样模型不容易跑偏。你要是方便的话可以试试把示例改成“摘要风格示范”而不是“完整原文-摘要对”，只给摘要范例，让模型学格式而不是学内容。

我遇到过类似情况，后来发现是例子太“强势”了，模型会优先模仿例子的措辞和结构，反而忽略了你真正要它做的事。可以试试把例子改成更通用的，别带太具体的专有信息，或者用“示例仅供参考格式”这类话压一下。另外例子数量控制在1-2个就够，放太多确实容易串味。

我遇到过类似情况，问题可能出在例子本身太“强势”了。few-shot不是越多越好，尤其当示例和当前文档主题接近时，模型很容易把示例里的实体或句式直接搬过来。建议试试只留一个例子，或者把示例改成抽象格式（比如“原文：...→摘要：...”但内容换成不相关的领域），再补一句“不要照搬示例中的信息”。另外顺序也有影响，把指令放在示例后面有时比放前面更稳。

学到了，感谢分享！