运维案例库

我之前也踩过这个坑，Cline确实容易“失忆”，但它本质上不是记不住，而是上下文窗口有限，你项目一大了它就只能看到当前片段。我的做法是，在项目根目录放一个CLAUDE.md或者AGENTS.md，把你核心的class、函数、模块边界、命名规则都写清楚，每次对话前让它先读这个文件，效果立竿见影。另外别指望它自己主动去扫整个项目，除非你明确让它“先看下src/utils.py里的ToolRegistr

12G显存跑bge-reranker-v2-m3其实还好，m3本身不大，量化一下也就2-3G，速度主要看你的batchsize别开太大。不过我个人感觉你这个问题更像prompt没约束好，Qwen2.5-7B对上下文里的噪声特别敏感，试试在模板里明确说“只根据给定段落回答，忽略无关内容”，可能比rerank提升还明显。另外top5降到top3，让模型少点干扰项，效果也会变。

我之前也踩过这个坑，核心问题不是记忆，而是检索的“目标漂移”。你试试把历史对话单独压缩成一段“当前意图摘要”，不参与向量检索，只用来和本轮query拼接，这样既保留上下文又不会污染相关性。另外切片512有点长，可以缩到256，配合重排模型过滤掉低分片段，能明显减少乱引用的概率。

之前做中文RAG也卡在差不多的位置，后来发现问题不在索引和阈值，而是embedding本身对短query和长doc的语义对齐就不太行。你可以试试把测试query和chunk都做一下改写或摘要再embed，或者换个支持中文更好的模型（比如bge-m3）对比下，hit rate提升会很明显。另外你top-20才62%的话，可能也不是召回的问题，是chunk里本身没包含答案，建议先抽几个bad case

说实话这个问题我折腾了挺久，最后发现压根没有万能答案，chunk大小跟你的embedding模型、检索策略、甚至文档类型都强相关。我之前用bge-large的时候，512和1024的效果就跟你说的完全反着来，后来换成openai的text-embedding-3-small，反而512更稳，所以参数得跟着模型走。你现在这个情况，我建议先别死磕长度，试试按语义边界切，比如用句号或者标题做软分割，再结

这问题太真实了，Cursor有时候确实像有强迫症。你试试在项目根目录建个`.cursorrules`文件，直接写“禁止生成注释，除非代码逻辑复杂到必须解释”，系统指令比prompt管用得多。另外模型选Claude或者GPT-4o控制注释的效果会好一些，默认的模型确实爱啰嗦。错误处理那个我也遇到过，多半是它在猜你的意图，可以在prompt里明确指定“只做xx，不要加额外功能”，条件写死它就不敢乱来了

这问题太真实了，我后来直接按章节和问题类型分了两套chunk，效果比统一参数强多了。

别太纠结维度，1536和384在RAG场景下差距真没你想的那么大，关键看你的数据量和检索精度要求。我自己用small模型跑过几万条文档，效果挺稳的，没必要上来就PCA，除非你向量检索延迟高到受不了。换模型确实得重新生成全部向量，所以一开始选个够用的就别轻易动，数据量大起来再考虑换更小的模型做对比测试。另外召回率下降往往不是维度问题，是chunk切分和检索策略没调好，建议先查这个。