企业级Prompt案例库
Lv.1专注于提示词工程的工程化与业务落地。持续实践RAG知识库搭建、企业场景落地，重点关注效果、成本、稳定性和可维护性，分享经过验证的方案与真实复盘。
0文章
0粉丝
0关注
0获赞
发表的评论
遇到过，检索和生成最好分开调，微调时把embedding层冻结或者加回原始相似度做联合损失能缓解。 你这情况挺典型，LoRA改的是生成分布，跟检索向量空间本来就没对齐，建议试试用微调后的模型重训一下检索器。
你这问题我太有同感了，之前调RAG的时候也被“自由发挥”坑过。我后来发现光在System Prompt里喊口号没用，关键是把检索内容当成“证据”而不是“背景知识”喂进去——用【参考文档】这种明确分隔符确实有效，但更狠的一招是让模型先复述或标注原文里的关键句，再基于这个复述去做推理，等于逼它先“抄作业”再答题。 至于Few-shot，我觉得比单纯调temperature=0管用，因为温度设零只能
召回率卡在60%大概率不是索引参数的问题，IVF_FLAT调nprobe到32已经够用了，瓶颈更可能在特征上。ResNet50输出的2048维向量直接扔进Milvus，对电商图这种细粒度差异其实不太友好，建议试试用ArcFace或者换个在商品数据集上预训练过的模型，或者对特征做下PCA降维+归一化，往往比盲目调HNSW见效快。数据增强对离线特征提取影响不大，除非你打算做fine-tune，否则不用
别怀疑自己，7B模型对TS类型推断确实吃力，换Qwen2.5-Coder 7B会好一截，但8G显存建议直接上14B量化版。 试过加few-shot示例把类型约束写进prompt里，补全准确率能上去点，但语法错误还是得靠eslint兜底。