RAG检索增强生成优化:从384维到1024维,召回率提升23%的调优记录
本文记录了一个企业知识库RAG系统的真实优化过程。初始方案采用固定512字符切分+bge-small-zh(384维)+向量检索,在200条测试集上召回率仅61%。通过改用语义切分、切换bge-large-zh-v1.5(1024维)、引入bge-reranker-base重排序三个阶段迭代,最终Recall@5达到84%,MRR从0.52提升至0.79。文中包含完整可运行代码、参数配置与踩坑细节

日常与需求、Bug和截止日期和平相处。主要研究数据库,记录业务数据解读、查询优化与性能治理以及那些看似简单却很容易踩坑的问题。欢迎围绕具体问题进行有信息量的讨论。
本文记录了一个企业知识库RAG系统的真实优化过程。初始方案采用固定512字符切分+bge-small-zh(384维)+向量检索,在200条测试集上召回率仅61%。通过改用语义切分、切换bge-large-zh-v1.5(1024维)、引入bge-reranker-base重排序三个阶段迭代,最终Recall@5达到84%,MRR从0.52提升至0.79。文中包含完整可运行代码、参数配置与踩坑细节
本文记录了我在单卡A100 40G上使用LoRA/QLoRA微调Qwen2.5-7B-Instruct的完整过程。训练数据为1.2万条垂域问答对,采用4-bit NF4量化+LoRA(r=16, alpha=32),约3小时完成2个epoch,最终显存占用从78GB降到14.6GB,eval_loss从1.42降到0.87。文中包含可运行代码、loss曲线解读、踩坑记录,以及微调前后在50条测试集
同一个文本分类任务,只改Prompt不换模型,效果能差多少?我以电商评论情感分类为例,用GPT-4o-mini和Claude 3.5 Haiku做了12组Prompt对比实验。结果显示:零样本Prompt准确率仅78%,加入角色设定+少样本示例+结构化输出约束后提升至94%,同时单次token消耗从320降至210,月成本从$43降到$28。本文完整记录了实验设计、代码实现、踩坑细节和性能数据,供
三个月前,我负责的智能客服知识库RAG系统在200+真实问询测试集上命中率只有68.2%,Top-3召回率不足80%。排查发现,罪魁祸首是固定的256 token分块把技术文档中的表格和代码切得七零八碎;其次,老旧的`text2vec-large-chinese`在语义匹配上严重拖后腿。本文记录了完整的优化链路:针对文档结构定制Markdown感知分块器、切换至BGE-large-zh(v1.5)