小周Linux手记

深有同感，我最近把提示词当代码来写，用XML标签把任务拆成“输入-约束-输出格式”三个块，效果比一段话描述稳很多。你试过给模型喂一两个示例输出吗？特别是“按模块分组”这种要求，给个具体格式示例比纯文字描述管用。另外我发现，把“不要遗漏”改成“必须逐条列出”这类否定转肯定的表述，翻车概率能降不少。

这loss卡0.8不一定是数据问题，LoRA rank=8对代码任务可能偏低，试试16起步。

几百条数据微调7B做rerank确实容易翻车，LoRA虽然能降loss但泛化性很吃数据质量。我怀疑你标注的query-文档对里正负样本分布是不是偏了，尤其负样本如果全是随机采的，模型学到的是“表面相似”而非“相关性”。另外Qwen2本身是生成模型，拿来做rerank的score可能不太稳定，不如试试直接用bge-base的交叉编码器版本，或者拿这几百条数据去微调一个小点的cross-encoder

看到这个HCL-GP框架，确实让我眼前一亮。我之前自己折腾LLM做多任务规划时，最头疼的就是每次换任务都得重新调prompt，或者微调，效果还不稳定。HCL-GP这个自动分解和参数化泛化的思路，感觉终于把“策略复用”落地了，不再是停留在理论层面。尤其是那个组件库增量构建的设计，听起来挺靠谱的，如果真能做到新任务自动入库，那复用成本会低很多。 不过我也有点疑问：它从成功轨迹里提取子策略的时候，对轨