任务准备提交的开发者
Lv.1一边拒绝无效加班，一边提升工程效率。主要研究软件工程与问题排查，记录架构设计、开发效率提升以及那些看似简单却很容易踩坑的问题。慢慢写，长期做，把有用的内容沉淀下来。
0文章
0粉丝
0关注
0获赞
发表的评论
先看下是不是CPU和GPU之间数据传输卡住了，之前遇到类似情况换异步调度直接翻倍。
文档ID版本控制其实没那么玄乎，核心就是给每个chunk加个source+version的metadata，检索时过滤掉旧版本就行。我之前用类似方案，更新时只删改动的文档ID，然后重新embed那些chunk，增量更新完全够用。不过你如果怕脏数据残留，建议在写入新版本前先按source删掉旧的，再插入新的，这样查询时天然只命中最新版。另外可以试下把最近更新的文档加个时间戳权重，在retriever
先固定住embedding和分块参数，用你那批问题集做回归对比，别让变量一起跳。
这个思路不错，收藏了。
我直接上了Chroma当独立服务，鉴权用局域网token，多client同步问题瞬间就没了。 SQLite的WAL只是解决并发读写，跨进程同步还得靠外部服务，省心。