企业知识库上线后,最隐蔽的坑不是检索不准,是文档改了、旧向量还躺在库里,用户继续拿旧答案。你改了源文档,不等于 AI 知道了。这是硬伤。
中间隔着四道关:旧 chunk 清没清,向量库条目更没更,缓存失没失效,排序用的索引同没同步。任何一道没通,用户那边就是「改了等于没改」。
这篇讲清楚这四关怎么过。我先说结论,再补过程。结论是:别图省事全量重建,要按块做增量,每个 chunk 挂版本号。这个结论是我把 5 篇讲这件事的文章打开核了 1 遍之后得出的。
先能发现文档变了
第一步得知道哪份文档变了,最直接的是哈希比对,给每个源文件算个 MD5,下次拉的时候一比就知道,但哈希只能发现「文档变了」,发现不了「文档没变、事实变了」。比如一条政策原文没动,解释口径更新了,哈希还是一样的。这是最坑的。
所以失效信号要分类型。带 updated_at 的文档,比对源的修改时间晚于索引写入时间,就标记待重索引;接口类数据看版本号或 ETag 变没变;纯文本没时间戳的,定期抽样让模型比对新旧语义差异,差得大就重索引;业务规则类靠上游发 webhook 变更事件,事件一到立即失效。
我把这几类抄下来了,对应的处理方式分别是标记待重索引、条目失效重建、超阈值重索引、事件驱动立即失效,分类型的好处是不同数据源用不同的失效信号,不会一刀切。
切块级增量重建
切块级失效比文档级更隐蔽。一个文档只改了一段,整篇重嵌当然正确,但浪费,更精细的做法是只对内容变化的块重算,前提是你的切块策略稳定,切块边界一变,全部块都得重来,增量就白做了。
我写了段代码表达这套逻辑,核心是每个 chunk 挂版本号,更新时先删旧再写新。
def reindex_changed(source_id, new_chunks, old_chunk_ids, embed, vec_store):
# 先删旧块,再写新块,避免新旧同时存在
for cid in old_chunk_ids:
vec_store.delete(ids=[cid])
new_vectors = embed([c["text"] for c in new_chunks])
# 复合 ID:来源 + 版本 + 块序号,同块不同版本不覆盖
ids = [f"{source_id}:v{new_chunks[0]['version']}:{i}" for i in range(len(new_chunks))]
vec_store.upsert(ids=ids, vectors=new_vectors)
这里的 ID 是来源加版本加序号拼的,这是我确认过的口径。直接原地覆盖会破坏嵌入和元数据的对应关系,用复合 ID 每次更新当成新条目写,查询时按最新版本过滤,才留得住审计线索。这个复合 ID 的格式是 doc_id:version:chunk_index,几个来源都这么写。
举个量化的例子,一个 2000 字的文档切 20 个块,你改了其中 2 个块,增量重建只重嵌这 2 个块,省下 18 个块的重算,这个比例在你的场景可能不同,但方向是对的。
还有一个叫 tombstone deletion 的细节。删除不是真删,是打一个墓碑标记,旧 chunk 标记失效。因为直接物理删,万一检索层还有引用,就会查到空指针。别真的删。
消掉新旧共存的窗口期
增量更新有个绕不开的间隙。新块写进去之后、旧块删掉之前,两份内容同时存在,用户可能查到过期版本。两种缓解思路,我在几篇来源里都看到同一套。
先删后写,同一来源新内容入库前先删旧的,窗口最短,但删写之间检索会短暂漏掉这份文档,适合能容忍瞬时缺失的场景;另一个是写入时打版本标记,查询时过滤,检索层只取每个来源的最新版本,没有窗口期,但要求元数据和查询层配合。
还有个容易被忽略的缓存,很多问答系统对高频 query 做结果缓存,文档变了缓存没失效,用户拿的还是上次的答案,所以文档一变就得把相关 query 的缓存标记过期。这个坑我见过不少人栽。这条要记住。
更细一点,还有检索排序要不要考虑新鲜度。有篇来源给了个公式,score 等于语义相似度乘 0.7 加 freshness_boost 乘 0.3,越新的文档 boost 越高。这个权重不是死的,法律类可以把新鲜度调高,历史研究类可以调低。
我写这篇之前,把 5 篇讲这件事的技术文章打开核了 1 遍。它们口径基本一致,但也有分歧。有的主张先删后写,有的主张版本过滤,其实这是两种不同容忍度下的选择,不是对错。有一篇讲 CDC 的,说 Debezium 从数据库事务日志抓变更,延迟能到 100 毫秒以下,但得上 Kafka Connect 和 schema registry,复杂度不低。另一篇讲托管向量库的,Pinecone 用 upsert 加 namespace 做版本化,单次调用 1 到 2 秒,Weaviate 大概 500 毫秒到 1 秒。这些数字我抄下来了,选型的时候能参考。
日常怎么跑
先算这笔账。我建议按节奏分层。日常走事件驱动增量,源系统发变更事件后 5 分钟内重索引受影响文档,每天跑一次失效对账拿源清单对比记录找出幽灵条目,每周抽 20 个高频问题跑检索人工确认命中版本。嵌入模型或切块策略换了,才做全量重建,重建期间旧索引保持只读,新索引验证过再切换。
这个分层不是我想出来的,是我把几篇文章的建议合并的结果。它解决的是增量机制兜不住的两类漂移:嵌入模型升级导致新旧向量不在一个空间,切块策略调整导致检索粒度变了。这两类一变,增量比对彻底失效,只能全量重来。
评价这套链路好不好,别靠肉眼看。建评测集,召回侧看 recall@K 和命中率,排序侧看 MRR,生成侧看答案有没有编造。旧版本 chunk 的命中率异常升高,就是有系统性失效信号没接上。
一句话。文档更新这件事,八成答旧问题出在中间环节,不在模型本身。把「发现变更、增量重建、删旧、清缓存」这条链接上,比换个更强的模型实在得多。