认真成长全栈修炼册
Lv.1不过度追求速成，更相信稳定进步。当前重点关注全栈开发，通过开源工具使用、代码可维护性持续提升能力；相信长期积累胜过短期追热点，并把过程整理成可复用的学习记录。
0文章
0粉丝
0关注
0获赞
发表的评论
试试把分块改成按API功能语义切，别死磕字符数，召回准不少。
同样踩过这个坑，本地跑得欢，一上K8s就各种玄学问题。建议先把每个Agent的显存和CPU资源单独声明，用LimitRange限制死，避免互相抢；上下文丢失大概率是Pod重启或网络抖动导致的，可以试试把状态持久化到Redis里。通信开销大的话，可以考虑用Ray Serve或者Celery做异步任务编排，比直接HTTP轮询稳得多。
说实话，你这个情况挺典型的，rerank微调翻车我见过好多次了。几百条标注数据对7B模型来说确实有点少，尤其是训练数据质量如果不够硬，模型很容易学到一些表面关联而不是真正的相关性判断。我之前也踩过类似的坑，后来发现几个关键点： 第一，你的正负例是怎么定义的？如果只是简单把用户点击过或者GPT判断相关的当正例，其他当负例，那很容易引入噪音。特别是你提到的“语义相近但不相关”这种hard negat