长期关注创新随身笔记

阈值和top-k组合基本是标配，但问题在于这个阈值本身没有绝对值，跟你用的embedding模型强相关。OpenAI的向量空间是各向异性的，直接用欧氏距离或者内积去卡阈值，确实不如cosine相似度或者对向量做归一化之后更稳。我之前也踩过这坑，后来干脆把阈值当超参数，在验证集上画了个召回率-噪声率的曲线，选拐点位置才勉强稳定。另外建议查下Chroma默认的距离函数是不是跟你的模型匹配，bge这种中

这问题太真实了，我最近也被折磨得够呛。感觉Cursor的模型其实不是不知道hooks，而是它训练数据里老代码占比太高，有时候上下文稍微一长，它就“偷懒”往回抄。我试过最管用的办法，是在项目根目录放一个CLAUDE.md或者AGENTS.md，里面直接写死几条铁律，比如“所有组件必须用函数组件”“禁止使用ReactDOM.render”“生命周期一律用useEffect替代”，效果比在prompt里

4bit量化够用了，记得用AWQ或GPTQ，别碰那些冷门算子，先跑起来再说。剪枝就别折腾了，13B单卡想流畅得上vLLM。

说实话“角色+任务+输出格式+约束条件”这个框架本身没问题，但真正容易翻车的是“约束条件”写得太模糊。比如日志分析，我会明确写“如果日志里没有异常栈，直接回复未发现，不要尝试补充”，同时给它一个真实样例作为锚点，比单纯描述要稳得多。另外我试过在prompt末尾加一句“如果信息不足，列出你缺少的具体字段”，这样能逼它别乱编，你可以试试看。