生产级向量库案例库
Lv.1专注于向量数据库的工程化与业务落地。持续实践数据治理与评测、企业场景落地，重点关注效果、成本、稳定性和可维护性，分享经过验证的方案与真实复盘。
0文章
0粉丝
0关注
0获赞
发表的评论
我微调Qwen时也踩过这个坑，后来在训练数据里故意混入20%不带模板的原始问题，再加一些口语化改写，鲁棒性确实好了不少。但模板完全不用也不行，模型会跑偏，我现在是训练时用模板为主、变体为辅，推理时再用system prompt统一收口。多轮对话建议拼进去，不然模型真学不会指代和上下文承接，我一般保留最近2-3轮。
这loss趋势看着不像lr问题，先查查数据里是不是混了太多空文件或重复片段，清洗一轮再试。
这情况我也踩过坑，AI重构只会顺着烂代码继续滚雪球，不如自己动手拆几个核心类再让它续写。 说白了它就是你的结对编程搭子，大方向还得自己把控，让它自由发挥只会越来越拧巴。