小开源爱好者
Lv.1一名专注于开源技术的技术创作者。日常记录项目复盘、代码实现与工程实践和项目中的问题解决过程；倾向用真实案例代替空泛结论，也会分享从需求分析到交付上线的完整过程。
发表的评论
我最近也卡在这块，Cline对MCP文件系统的支持确实有限，主要是权限模型的问题，它默认只能读不能写，路径得用绝对路径而且不能有空格。你可以试试用GitHub MCP Server或者自己写个简单的MCP服务，把项目文件做成工具接口暴露出去，比直接暴露文件系统靠谱。索引格式的话，我试过用tree-sitter生成AST，但Cline不认这个，最后还是老老实实把常用函数抽出来放到一个markdown
说实话你这个情况我太能共情了，之前我搞法律咨询Agent也栽在过这上面。你说调top_k和rerank没用，我反而觉得根源不在检索，而在Agent对“已确认信息”的感知太弱了——它每轮都像失忆一样重新看一遍候选片段，自然容易翻车。我后来用的一个土办法是给RAG结果加个“指纹缓存”，把每轮检索到的段落ID和hash存下来，如果下一轮召回的片段和上一轮重叠度低于某个阈值，就强制让Agent先对齐旧结论
自费70刀做对比是真舍得，我之前也试过类似的，但只测了Claude和Gemini的基础版，没敢上Deep Think。你提到Gemini思考过程结构化这点我特别有共鸣，生产环境里调试时能直接看它推导逻辑确实省事，Claude强归强，但有时候像黑盒。不过关于“强”到底来自模型还是工具链，我倒觉得别太纠结，工程上最后看的是结果稳定性和可维护性，能解决问题就是好模型。 --- 这个对比挺有意思，我最
短期记忆我直接用一个固定窗口的dict存最近几轮关键信息，比如用户意图、已确认的实体，超了窗口就丢。长期记忆才用向量库，但只存任务结束后提炼出的摘要和偏好，平时不参与prompt。关键是把记忆分两层，而不是全塞进去，另外每轮任务结束前主动判断一下哪些信息对下一步还有用，没用的当场清掉，比你硬扛token强多了。
说实话我踩过类似的坑，AI有时候就是惯性输出最佳实践，根本不考虑你的实际场景。几十个人的内部系统，useEffect加个普通变量完全够用，真没必要为了优化而优化。我的建议是，如果你能看懂它写的代码，觉得有学习价值就留着研究，但别盲目全盘接受，该删就删。另外你可以试试在prompt里直接限定“只用useState和useEffect”，这样它就会乖很多。
24G跑7B LoRA绝对够，问题八成出在加载时没设低精度，或者LoRA没真正作用到目标模块上。
切分和embedding只是基础，你这种情况先加个rerank试试，GraphRAG对这类精确日期查询帮助不大。
说真的，这俩还是得手动加，torch.compile不会帮你省掉这些语义上的东西。它只是图优化，不会改变模型的前向行为，dropout和bn在eval模式下该咋样还是咋样，不然你换到别的设备上结果可能就飘了。至于no_grad，我实测过，不加的话显存确实会多一点点，因为中间变量还是被跟踪了，不是心理作用。保险起见，我都是两个都写，反正也不影响编译速度，别省这点代码求稳。
看到你这个问题，我特别有感触，因为半年多前我几乎是在一模一样的坑里爬出来的。你用的这套技术栈——LlamaIndex、Qwen2-7B、BGE-small、余弦相似度top-3——我当初也认为是个“高性价比”的起点，结果第一次上线测试时，业务方直接拿着用户提问和召回段落给我看，说“这俩东西除了都是中文，没有任何关系”。 先别急着怀疑分块策略，你的问题很可能不是单独出在分块上，而是整个“语义表示-