求教：开源模型做结构化抽取，Prompt模板怎么调都不稳，有实战经验吗？

说实话，纯靠Prompt调Qwen做结构化抽取，稳定性天花板就在那了，长文本丢字段几乎是必然的。我建议你把重心放在后处理上，比如用正则或者简单的规则把漏掉的字段补回来，或者做个二次校验，比反复调模板性价比高得多。另外系统提示词就放任务定义和格式要求，用户提示词放具体文本和字段说明，别混在一起，不然模型容易混乱。你试过把长文本分段处理再合并结果吗？我这么干之后，字段丢失的情况好了不少。

说实话你这情况太典型了，光靠调prompt上限就在那了，长文本丢字段基本是模型注意力被前面内容带跑了。我建议你直接上后处理兜底，用正则或schema校验把缺失字段标出来，再针对缺失部分单独做一次抽取，比反复调模板省心得多。系统提示词就负责定角色和输出格式，用户提示词塞具体字段定义和文本内容，别混在一起，不然模型容易乱。另外试试把字段定义放到文本前面，有时候比放后面管用。

别死磕Prompt，上点后处理兜底吧，漏字段用规则补，长文本截断分块抽更稳。

后处理兜底是必须的，漏字段靠正则或规则补，Prompt再调也扛不住长文本漂移。

7B这个量级做十来个字段的抽取确实容易翻车，尤其合同这种长文本，注意力稀释之后尾部字段丢失太常见了。我自己的经验是别指望Prompt能一把梭，Json模式约束只是保格式，保不了内容完整性，该漏还是漏。可以试试把抽取拆成两阶段，先让模型定位相关段落或条款，再针对每个片段单独抽字段，短上下文里稳定性会好很多。few-shot也别一股脑全塞，挑那种容易混淆的负例放进去，比堆正例管用。系统提示词我一般用来定角色和全局规则，比如输出必须是合法Json、找不到就填null，用户提示词里放具体字段定义和当前文本，分工清楚点模型不容易乱。后处理兜底一定要有，哪怕只是拿正则补一下日期金额、再跑一遍Json解析校验，能省掉一大半脏数据。长文本还可以考虑滑动窗口加字段级投票，同一字段多段抽几次取多数，比单次硬抽靠谱。

这种长文本后面字段丢的情况我也踩过坑，Qwen2.5虽然JSON模式还行，但上下文一长注意力就散了。我的做法是把抽取拆成两轮，先让模型标出每段跟哪些字段相关，再逐段抽，比一次性硬塞强不少。另外后处理兜底真不能省，字段缺失或格式错的时候用正则和规则修一遍，能救回不少。系统提示词我一般只放角色和全局约束，字段定义和示例都塞用户提示里，这样切换任务也方便。

7B做十来个字段确实吃力，建议拆成两三个子任务分别抽，再拿代码合并兜底。

七B这个量级想纯靠prompt稳住十几个字段确实有点难，尤其长文本后面字段丢失，基本是注意力衰减了。我之前做法是把抽取拆成两轮，第一轮只让模型标出每个字段对应的原文片段，第二轮再逐字段做短上下文抽取，稳很多。后处理兜底一定要有，比如Json解析失败就回退正则或者按行截取重试。系统提示词里放角色和全局约束，用户提示词只放当前这段文本和具体字段清单，别混在一起。

长文本后面字段丢失挺常见的，我一般会把抽取拆成多轮，每轮只让模型关注两三个字段，比一次性全塞进去稳很多。系统提示词里我会固定输出schema和铁律，用户提示词里只放当前任务和文本片段，别混在一起。另外后处理兜底真不能省，正则校验加一次重试基本能救回大部分崩掉的case。

7B模型做十来个字段的抽取确实容易崩，尤其长文本后面丢字段大概率是注意力衰减了，不是Prompt能救回来的。建议系统提示词只写角色和输出格式约束，具体字段定义和示例放用户提示词里，分工清楚会稳一些。然后别指望模型一次吐完，可以拆成两三轮抽，或者对每个字段单独跑一遍再合并，后处理用正则兜底校验JSON完整性。few-shot别塞太多，挑两三个覆盖边界情况的就行，塞多了反而干扰。

长文本后面字段丢，八成是注意力衰减，试试分段抽再合并。系统提示定规则，用户提示塞原文，别混着写。

7B模型做十来个字段的抽取确实容易顾此失彼，长文本后半段掉字段基本是注意力衰减导致的。我们项目里除了prompt，还会按字段分批抽取，比如先抽甲乙方和金额，再单独跑一轮抽日期和条款，比一次性全塞进去稳不少。另外JSON模式约束建议配合schema校验做重试，别指望模型一次就完美。系统提示词我一般放角色和全局规则，用户提示词放具体字段定义和示例，分开后调试起来清楚很多。

长文本后面字段丢失挺常见的，模型注意力衰减嘛，可以试试把关键字段的抽取拆成多轮，每次只问两三个字段，稳很多。JSON模式约束这块建议别全指望模型，配个schema校验加一轮重试，崩了就把错误信息塞回去让它重生成。系统提示词我一般放角色和输出规范，用户提示词放具体任务和字段定义，分工清楚点确实好调。