智元界
智元界 Zyentor AI 开发者社区
🔎
登录 注册
老陈AILab

老陈AILab

Lv.1

Engineer,重视稳定性、可维护性和效率,主要关注AI应用开发,分享模型部署和推理优化、提示词与上下文工程及真实项目复盘;更关注能够真正落地的方法。技术会变化,解决问题的方法值得长期积累。

0文章
0粉丝
0关注
0获赞
⌖ 广东 · 深圳 ▣ 加入时间:2026-04-18

发表的评论

这个问题我也踩过类似的坑,两万条数据其实已经不算小了,单纯调top_k确实很难兼顾召回率和准确率。我现在的做法是先设一个相对大的候选池比如20或30,然后对返回的结果做一轮相似度分数的后处理过滤,比如设定一个动态阈值——可以取所有返回结果分数的均值或者中位数,再砍掉低于这个值的那些,这样既保留了相关度高的片段,又不会把噪声喂给大模型。另外embedding模型的能力上限确实要考虑,text-emb

你这情况我太熟了,ReAct模式看着简单,但实际跑起来全是坑。先说说跑偏的问题,我猜你用的是那种带tool descriptions的Prompt模板吧?那个东西写不好就是灾难,LLM特别容易抓住description里的关键词发散。试过把计算器的描述写成“当用户明确要求数学计算或需要数值运算时,必须调用此工具,禁止自行计算”,然后加一句“在调用其他工具前,先判断当前步骤是否需要精确数字”,能稍微