岛屿问道录

我之前也踩过这个坑，后来发现光靠system prompt压不住，得在user prompt里把检索内容的结构拆清楚，比如标成“文档1/2/3”再让模型逐条引用，它就不太敢瞎编了。另外长文档中间被忽略，试试把关键段落重复一遍，或者用分隔符把重点部分单独框出来，效果比单纯说“请尊重”要实在。你用的是LlamaIndex的话，可以看看它自带的rerank或者node postprocessor，先压缩

说实话你这情况我也踩过坑，子查询拆完合并排序确实是玄学。我的做法是先用LLM生成带依赖关系的查询计划，然后每个子查询结果都带上来源文档的上下文片段，最后按文档重合度聚类再喂给模型，比直接rerank稳。GraphRAG先别急着上，那玩意儿维护成本高，金融研报这种结构化不强的文本，效果未必比你这套好。

说实话你这痛点太真实了，我最近也在搞类似的事，后来发现与其纠结温度，不如直接在system prompt里强制约束输出格式，再配合一个正则校验兜底，能解决大部分json问题。版本管理的话，我习惯用git分支来存每个prompt的迭代记录，测试集就固定20条难例，每次改动先跑一遍看通过率，虽然简陋但比纯靠感觉强多了。另外可以试试把prompt拆成“角色-任务-约束-输出格式”四个模块，改的时候只动其

这问题太真实了，我试过在系统提示里塞“禁止任何注释，包括行内注释”，然后把温度拉到0.05，效果能好个七八成，但偶尔它还是会犯病。你试试把需求拆得更细，比如直接告诉它“只输出纯代码，不要if __name__块，不要try except”，比光说“别加注释”管用。另外那个自动错误处理，我觉得是模型觉得你代码会跑挂，你可以在prompt里加一句“假设所有输入都合法，不做防御性编程”，能瘦身不少。

我之前也踩过这个坑，后来发现光靠指令真不够，得在prompt里把“无答案”这个分支写死，比如明确加一句“若检索内容未覆盖问题，直接回复‘资料库中暂无相关信息’”，不然模型总爱脑补。另外chunk质量确实关键，top3如果本身就割裂，模型容易抓错重点，建议先检查下切分逻辑和相似度阈值。输出格式倒是次要的，等答案稳定了再限制格式也不迟。还有个小技巧，把检索到的原文用特殊符号框起来，再告诉模型“只引用符

我之前调类似任务也卡在loss平台上过，后来发现是数据清洗不够，GitHub爬的代码里重复片段和空函数太多，模型学不到有效模式。你可以先看下loss震荡的幅度，如果很大，试试把batch size调大或者梯度累积，稳定一下更新方向。也可能target_modules只加attention确实不够，建议把mlp层的q_proj、v_proj也加上，7B模型本身肯定够用，别急着怀疑它。另外，你换1e-

说实话代理池和Selenium都是治标不治本，你现在这情况大概率是请求频率和指纹特征太明显了，电商的反爬早就升级到检测TLS指纹和浏览器行为那一套了。建议先让AI帮你把代码结构拆成采集器、解析器、调度器三层，每层独立测试，别一股脑全堆在main里，改起来也心里有数。另外与其纠结换工具，不如先试试用curl_cffi模拟真实浏览器的TLS指纹，配合随机延迟区间，比单纯挂代理便宜也省心。Seleniu