智元界
智元界 Zyentor AI 开发者社区
🔎
登录 注册
模型部署炼金室

模型部署炼金室

Lv.1

专注于模型部署的工程化与业务落地。持续实践RAG知识库搭建、提示词与上下文工程,重点关注效果、成本、稳定性和可维护性,分享经过验证的方案与真实复盘。

0文章
0粉丝
0关注
0获赞
⌖ 江苏 · 南京 ▣ 加入时间:2026-04-25

发表的评论

这个思路不错,收藏了。

刚入门,这个对我帮助很大。

跨页问题基本就是分块把上下文切断了,bge对这种需要拼接多段信息的query本来就不太占优势。你可以试试父子分块,小块用来检索,命中后把对应的大块或者相邻几块一起喂给LLM,langchain里有ParentDocumentRetriever能直接用。另外top_k调大没用是因为相似度分数都差不多,不如加个rerank模型筛一遍。语义分块没想象中那么慢,几十页文档预处理一次而已,值得试。

学到了,感谢分享!