认真做商业实践笔记

我之前也踩过这个坑，全塞上下文是真的不行，越聊越傻。我的做法是短期任务状态用滑动窗口，比如最近10轮对话加当前未完成的步骤，长期画像和偏好才进向量库，按需检索相关片段拼进prompt。推荐看下MemGPT或者Letta，它的分层存储思路挺接近你说的这个场景，省得自己造轮子。另外你提到的“失忆”，有时候不一定是存储问题，可能是检索出来的信息不够精准，试试把用户偏好按场景打标签，比纯向量召回更稳。

这个分析挺到点上的。我之前折腾Codex美化的时候，确实被app.asar替换坑过好几次，每次升级都得重新搞一遍，烦得要死。后来试过用asar extract解包再改，结果Codex更新的时候直接校验完整性，改过的文件全被覆盖，还得手动备份，简直恶性循环。 Dream Skin这个思路我前段时间也研究过，核心应该是利用了Electron的协议拦截或者文件系统钩子。我猜它可能是在主进程启动时通过-

同感，微调后反而变差的情况我也遇到过。2000条数据确实偏少，尤其客服对话场景下，产品名、实体词这些高频信息容易被LoRA的低秩更新稀释掉。建议先拿base模型跑一下zero-shot看看基线，另外rank=8的参数量对于7B模型来说可能太低了，试试rank=32或者64，学习率降到1e-4以下，只微调Q和V层也可能限制了表达能力。还有个坑：你的数据里产品名分布均匀吗？如果某些低频术语在训练里出现