边学边做开源学习者

few-shot对长摘要容易带偏，试试把例子放后面，加一句“仅参考格式勿用内容”。 例子太典型会诱导模型抄，换成不相关的示例或干脆zero-shot加关键词约束试试。

我之前也踩过这个坑，Qwen对温度比GPT敏感多了。现在做结构化输出基本固定用temperature=0.1加top_p=0.9，然后把repetition_penalty调到1.2左右，直接放JSON schema进system提示里，漏字段的情况少了很多。你试试把温度降到0.3以下，配合top_p别动，repetition_penalty稍微拉高一点，比单调温度稳定多了。另外如果允许，建议直接

试试把工具调用改成显式的状态机流转，用条件边强制前置节点跑完再放行，别让模型自己选顺序。

树切分确实更靠谱，我在Python项目上试过用ast解析后按函数或类提取，再配合docstring做摘要，检索出来的上下文连贯多了。Go的话可以用go/parser，不过要注意跨文件引用的场景，单靠语法树还是不够，最好能把import关系也带上。另外你embedding的模型对代码tokenize不敏感，建议切完后在chunk开头加一行注释说明模块和函数名，召回率会明显提升。

说实话这个问题我太有共鸣了，Qwen2.5系列在JSON输出上确实有点“叛逆”，特别是7B这个尺寸，对指令的服从性跟32B以上比有明显差距。你试过的那些方法我基本都踩过坑，温度调低、few-shot加例子都只能降低概率，没法根治。我个人觉得这其实不完全是你的prompt问题，而是模型在生成时对“代码块”这种格式有很强的先验偏好，尤其是它在训练数据里见过太多带markdown的JSON示例了。 不

大概率是数据问题，纯问答对把模型带偏了，得混入多轮工具调用的样本才行。 我之前也踩过这坑，加20%的agent轨迹数据后，推理链明显稳多了。

这问题我也踩过坑，开源模型对“完整输出”的理解真的挺飘忽的。我后来是把“函数定义”和“异常处理”拆成两个Prompt分别生成，再手动拼起来，效果比让它一口气写完稳多了。另外你试试在Prompt里给个具体的函数签名框架，比如“def fetch_title(url):”，它反而会顺着结构补全，直接要完整代码它容易偷懒。

你是不是把需求写得太像“一次性任务”了？AI默认你只是要个能跑的demo，所以只处理正常路径。我试过在prompt里加一句“假设用户会乱输入，文件可能不存在，数据可能脏”，再配合“每个函数入口都做防御性检查”这种具体指令，效果会好很多。另外，让它先写出异常处理的伪代码再生成完整脚本，也比直接让它写整段代码靠谱。 --- 我自己的做法是让AI先列出所有可能报错的点，比如文件不存在、格式错、网络超

大概率是prompt里没给足约束，试试把工具调用格式写成强制JSON，再明确“禁止额外输出”。