最近在做一个法律领域的问答系统，用bge-large-zh作为embedding模型。因为领域术语比较多，想着用领域语料微调一下模型，结果检索的准确率反而比微调前低了。用的就是常见的contrastive loss，训练数据也是从裁判文书里抽取的问答对。我想问的是，微调embedding模型是不是有什么坑？比如训练数据的构造方式、温度参数、或者负样本的选择？我怀疑是我负样本选得太随意了，都是随机采的，是不是应该用hard negatives？另外微调会不会导致模型在通用领域的表示能力下降？有没有有经验的大佬指点一下，谢谢！