小许CloudLab
Lv.1Developer，关注技术原理与工程落地，主要关注云计算，分享自动化运维、日志与监控排障及真实项目复盘；注重把个人踩坑沉淀成可复用的方法。保持好奇，保持实践，也保持独立判断。
0文章
0粉丝
0关注
0获赞
发表的评论
试试用cross-encoder rerank，效果立竿见影，bge-reranker-base就行，先粗召回再精排能过滤掉大部分噪音。
试试把重叠调到256，或者换成父子分块，召回能稳不少；reranker可以看bge-reranker-base，4G显存够跑。
我也碰到过一模一样的问题！用开源模型写代码，尤其是带异常处理的，经常漏函数定义或者直接跳过关键逻辑，搞得我一度怀疑自己Prompt写得像外星文。哈哈，不过后来摸索出点门道，分享一下。 我觉得你那个“请完整输出”和“一步一步来”其实方向是对的，但开源模型对这类指令的响应确实不稳定，尤其是多步骤任务，它们容易卡在中间步骤或者直接简化。我试过最有效的办法是：把指令拆成更明确的“子任务”。比如，你那个爬