求教：开源模型做结构化抽取，Prompt模板怎么调都不稳，有实战经验吗？

说实话后处理兜底基本是必须的，别指望Prompt能100%稳。我一般会先用Json模式拿输出，再写个schema校验脚本，漏的字段根据上下文正则补，补不上就标记人工审核，比反复调模板省心多了。

系统提示词我习惯只放角色和输出格式硬约束，字段定义和示例全塞用户提示词里，因为长文本下模型对后面的指令注意力会衰减，这样能稍微缓解漏字段的问题。另外试试把字段顺序调整成和合同段落出现顺序一致，有时候比加示例管用。

说实话，长文本丢字段这事儿光靠调prompt真不是长久之计，Qwen 7B在超长上下文里的注意力本身就会衰减。我建议你干脆把后处理兜底当成必选项，用正则或者二次校验把漏掉的字段抓出来，比死磕模板稳定得多。另外你可以试试把目标字段按重要性分层，先抽核心字段，再对次要字段单独跑一轮，效果往往比一次塞给模型好。系统提示词就放角色和输出格式的硬约束，用户提示词里给具体文本和字段清单，别混在一起。

说实话纯靠prompt调Qwen做抽取确实容易心累，尤其是长文本后面字段丢失太典型了。我现在的做法是prompt只保证核心字段和格式，输出后必须接一层正则+规则校验，漏了就按字段类型补默认值或重试一次。系统提示词我就放角色和全局约束，用户提示词里塞具体字段定义和示例，这样分工清楚点，至少调试时能定位问题。你试过把长文本按段落切片分别抽取再合并吗？有时候比一次硬抽稳很多。

这问题太真实了，我之前用7B模型抽长合同也是这个鬼样子，后面几个字段跟商量好了似的集体失踪。后来我干脆放弃了纯靠prompt硬刚，直接上两层方案：第一层让模型只输出它最有把握的前几个字段，剩下的字段拆成第二轮单独问，虽然慢点但稳定性上来了。第二就是后处理必须做，用正则加关键字匹配去兜底那些模型死活不吐的字段，尤其是日期和金额这种格式固定的，比让模型猜靠谱多了。

关于系统提示词和用户提示词的分工，我的习惯是系统提示词里只放任务定义和输出格式的严格约束，比如必须返回合法JSON、字段名绝对不能改这种硬规则。用户提示词里才放具体合同文本和字段说明，这样模型至少知道哪些是规则哪些是内容，不会把模板和输入混在一起。另外你试过temperature调到0.1以下没？7B模型温度稍高一点输出就开始飘，这个对格式稳定性影响特别大。

还有个偏方，如果你用Json模式还崩，试试让它先输出一个markdown表格再让你用代码转成JSON，虽然绕了一圈但有时候反而稳，可能是模型对表格的生成更熟练。最后漏字段这事，你可以统计一下是不是特定位置漏，如果总是靠后的字段，大概率是注意力被长文本稀释了，把文本分段喂进去分多次抽，最后merge结果，比一次性塞进去强太多。

后处理兜底必须加，别跟prompt死磕，长文本丢字段就分段抽再合并。

别死磕Prompt，后处理兜底必须上，字段漏了就用规则补，长文本丢字段是模型通病。

后处理兜底必须做，长文本就分段抽，别指望一个prompt吃到底。

我们之前也踩这坑，字段拆成几个子任务各抽各的，稳定性明显好多了。

后处理兜底必须做，长文本截断分段抽再合并，比硬调prompt靠谱多了。

说实话你这情况太典型了，Qwen2.5-7B在长文本+JSON模式下确实容易崩，尤其是靠后的字段被截断或忽略。我自己的经验是别把宝全押在Prompt上，结构化抽取必须配一层后处理逻辑兜底，比如用正则或schema校验把缺失字段标记出来，再针对缺失项做二次小模型调用，比单纯调模板稳定得多。

关于长文本丢字段，我试过把输入切块，按合同段落分批抽取再合并，效果比一次性硬塞强不少，但要注意字段之间的上下文关联，比如甲方乙方可能跨块出现，得设计好合并策略。另外Json模式最好别用系统提示词去约束格式，那些指令放用户提示词里且紧跟输出示例，模型更容易follow。

系统提示词就负责定角色和全局规则，比如“你是专业合同审查助手”，用户提示词放具体字段定义、示例和当前文本，这样分工清晰一些。我还会在输出前加一句“必须输出所有字段，缺失请填null”，配合解码参数里把temperature调低到0.1，能减少随机性。

还有个偏方，把字段定义从纯文本改成类似伪代码的结构，比如用“甲方名称: string, 必填”这种，比自然语言描述让模型更明确。你现在few-shot是放几个完整示例？我试过放两个就够，放多了反而干扰长文本处理。你那边有没有试过用Qwen的function calling接口替代纯Json模式？那个对字段约束更硬一些。

说实话，纯靠Prompt调参在长文本上确实容易翻车，尤其是字段一多，模型注意力一分散就给你漏。我这边实战下来，最稳的组合是让模型先分段抽取再汇总，或者干脆把输出改成扁平化的键值对列表，别硬套嵌套Json，能省不少事。后处理兜底基本是必须的，比如用正则检查必填字段，缺了就单独补一次查询，不然上线心里没底。系统提示词里我只放角色和全局规则，字段定义全塞用户侧，这样切换场景时不用动系统层，感觉会清爽些。

后处理兜底是必须的，漏字段直接正则补，别指望prompt完美。长文本可以分段抽再合并，效果稳很多。

后处理兜底必须上，长文本截断分段抽，漏字段用正则补，别全指望prompt。

后处理兜底必须上，长文本截断分段抽，最后再合并，光调模板真不行。

说实话别指望Prompt能完全解决，长文本丢字段基本是模型注意力被稀释了，我一般先把文本按条款切块再分别抽，最后合并。后处理兜底必须有，用正则和JSON schema校验把漏的字段标出来，让模型只补抽缺失部分。系统提示词放任务规则和输出格式，用户提示词塞具体文本和字段定义，few-shot放系统里稳定些。

说实话，光靠调Prompt想把长文本抽取做稳基本不现实，尤其Qwen2.5-7B这种规模，字段一多注意力就容易飘。我建议你直接上后处理兜底，比如用正则或schema校验把漏掉的字段标记出来，再针对性重抽一次，比硬调模板省心得多。系统提示词就放任务规则和输出格式，用户提示词放具体合同内容，别混在一起，这样模型更容易聚焦。另外你试试把长文本按段落切块，每块单独抽再合并，后面字段丢失的情况会好很多。

说实话这问题太典型了，光靠调prompt上限就在那了。我建议别死磕模板，直接上后处理兜底，比如用正则或者schema校验把漏的字段标出来再二次抽取，长文本就分段抽然后合并，效果会稳很多。另外系统提示词里只放任务规则和输出格式，用户提示词放原文和字段说明，别混在一起，Qwen对格式干扰很敏感。你试过把few-shot放到系统提示词里吗？有时候这样能减少对后面字段的注意力衰减。