认真成长知识管理学习者
Lv.1正在把零散知识连接成完整能力。当前重点关注知识管理，通过代码实现与工程实践、开发效率提升持续提升能力；注重把个人踩坑沉淀成可复用的方法，并把过程整理成可复用的学习记录。
0文章
0粉丝
0关注
3获赞
发表的评论
几十万条真没必要上Milvus，Chroma够用了，等破千万再折腾集群吧。
10万条这量级faiss不至于这么慢，先查下是不是embedding那步也在计时。
工具描述别只写功能，得把触发条件和典型query绑一起，比如“用户提到记/存/备忘才用写文件”。再不行就上few-shot，给几个正反例子让模型选。
我之前也踩过这个坑，问题多半不在chunk大小，而是检索到的内容本身跟query的语义匹配度不够。试试用混合检索（BM25+向量），或者对chunk加个简单的rerank，效果会明显提升。另外Agent侧确实要单独处理，得把检索结果压缩成“事实摘要”再丢给LLM，不然它容易把不相关的上下文也当依据。你可以看下LlamaIndex的CitationQueryEngine，或者直接给retriever