最近在搭一个本地知识库问答，用的Llama3-8B + Chroma，embedding用的bge-large-zh。文档切了512字符，overlap设了64。现在问题是：问一些具体操作步骤时，检索出来的chunk经常是相关的但不精准，比如问“怎么改端口”，召回的是讲配置文件路径的内容，真正改端口的命令反而不在top5里。试过调top_k、换相似度算法（cosine换成了L2），效果都不明显。是不是我切分策略有问题？还是说应该换Milvus或者Qdrant这种重型的？另外有没有必要对chunk做rerank？希望有经验的朋友给点思路。