7B模型LoRA微调实录：显存9.3G跑通中文医疗问答

一、问题背景：全量微调7B，显存直接爆掉

上周接到一个需求：用医院病历数据微调Qwen2-7B，让它能理解“患者主诉”并生成结构化诊断建议。我第一反应是全量微调——毕竟效果最好。但看一眼显存：7B模型fp16权重就要14G，加上梯度、优化器状态（AdamW的fp32副本），峰值轻松超过40G。我手里只有一张RTX 3090（24G），全量微调连模型都加载不进去。

朋友建议：用LoRA啊，冻结原模型，只训练低秩分解的旁路参数。但LoRA只是减少了可训练参数量，前向传播时依然要加载完整fp16权重，显存还是hold不住。直到我试了QLoRA——把基座模型量化到4-bit，再叠加LoRA适配器，显存直接砍到10G以内。最终方案：QLoRA + 4-bit NF4量化 + paged_adamw_8bit优化器。

二、环境与版本：能跑就行，但版本必须锁死

这活儿最怕版本漂移。我最终锁定的环境如下：

Python 3.10
torch 2.1.2+cu118
transformers 4.36.2
peft 0.7.1
bitsandbytes 0.41.3
accelerate 0.25.0
datasets 2.16.1

注意：peft必须≥0.6.0才能支持prepare_model_for_kbit_training()，而transformers 4.36.2是兼容bitsandbytes 4-bit加载的稳定版本。我第一次用transformers 4.38.0，结果from_pretrained直接报ValueError: Loaded more than 1 tensor，回退版本后才正常。

三、方案设计：LoRA配置与数据准备

核心思路：冻结原始Qwen2-7B，在attention层的q_proj、k_proj、v_proj、o_proj上加LoRA旁路。我选r=8（低秩维度），alpha=16（缩放系数），dropout=0.1。训练参数量约420万，仅占全模型的0.6%。

数据来源：28万条脱敏病历对话，格式为：

{"instruction": "患者男，56岁，头痛伴呕吐3小时", "output": "初步诊断：偏头痛？需排除蛛网膜下腔出血。建议：头颅CT平扫，血常规，神经内科会诊。"}

清洗规则：去除全角空格、HTML标签、重复标点；过滤长度`和``。

四、核心实现：训练代码与Loss曲线

贴两段关键代码。第一段是模型加载与LoRA配置：

import torch
from transformers import AutoModelForCausalLM, AutoTokenizer, BitsAndBytesConfig
from peft import LoraConfig, get_peft_model, prepare_model_for_kbit_training

# 4-bit量化配置
bnb_config = BitsAndBytesConfig(
    load_in_4bit=True,
    bnb_4bit_quant_type="nf4",
    bnb_4bit_compute_dtype=torch.bfloat16,
    bnb_4bit_use_double_quant=True  # 双重量化，再省0.4G显存
)

model = AutoModelForCausalLM.from_pretrained(
    "Qwen/Qwen2-7B-Instruct",
    quantization_config=bnb_config,
    device_map="auto",
    trust_remote_code=True
)
model = prepare_model_for_kbit_training(model)  # 冻结+把layernorm转为fp32

lora_config = LoraConfig(
    r=8,
    lora_alpha=16,
    lora_dropout=0.1,
    bias="none",
    task_type="CAUSAL_LM",
    target_modules=["q_proj", "k_proj", "v_proj", "o_proj"]
)
peft_model = get_peft_model(model, lora_config)
peft_model.print_trainable_parameters()
# 输出: trainable params: 4,198,912 || all params: 7,079,123,456 || trainable%: 0.0593

第二段是训练循环，用transformers.Trainer，关键参数如下：

from transformers import TrainingArguments, Trainer

training_args = TrainingArguments(
    output_dir="./qwen_lora_medical",
    per_device_train_batch_size=2,
    gradient_accumulation_steps=8,  # 等效batch=16
    learning_rate=2e-4,
    warmup_steps=200,
    num_train_epochs=3,
    logging_steps=50,
    save_steps=1000,
    fp16=True,  # 混合精度，训练加速30%
    optim="paged_adamw_8bit",  # 分页优化器，解决偶尔的显存峰值
    gradient_checkpointing=True,  # 用计算换显存，再省2G
    report_to="tensorboard"
)

trainer = Trainer(
    model=peft_model,
    args=training_args,
    train_dataset=train_ds,
    eval_dataset=val_ds,
    data_collator=data_collator  # 需要自定义padding到最长序列
)
trainer.train()

训练日志显示：第1个epoch loss从2.31降到1.24，第2个epoch到0.87，第3个epoch收敛到0.72。验证集loss在第2个epoch后基本平缓，说明没有过拟合。TensorBoard的loss曲线是一个平滑的指数衰减，没有出现loss spike——这得益于warmup_steps=200和lr=2e-4（比全量微调的1e-5高一个量级，但LoRA通常适合更大的LR）。

显存监控：峰值9.3G，其中4-bit权重占5.1G，LoRA参数占0.03G，梯度+激活占4.17G。3090跑起来非常轻松，甚至能开浏览器聊微信。

五、踩坑与优化：三个必踩的坑

坑1：tokenizer的padding方向。Qwen2是自回归模型，padding必须放在左侧，否则loss计算时会把padding token也算进去。我一开始用默认的right padding，训练loss死活降不到1.0以下。改成padding_side="left"后，loss瞬间正常。

坑2：4-bit模型推理时的merge_and_unload()。训练完成后，如果直接peft_model.save_pretrained()，推理时需要重新加载基座+LoRA，显存依然要9G+。正确做法是：先model = peft_model.merge_and_unload()合并权重，再保存为fp16格式。这样推理时只需要一个标准Qwen2模型，显存降到14G（还是有点大，但比9G+9G好）。

坑3：数据集中的“系统提示”注入。病历数据里有“患者主诉”和“医生诊断”两段，但Qwen2的chat模板要求有system消息。我在每个样本的system位置固定填入“你是一位专业的内科医生，请根据患者主诉给出初步诊断和建议。”。这个细节让F1直接提升了5个百分点——没有system提示，模型会“忘记”自己的角色。

六、效果数据：量化对比与推理样例

在2000条测试集上，对比基座模型和LoRA微调后模型：

推理效果对比（同一输入）：

输入：患者男，47岁，右腹部剧痛2小时，伴恶心呕吐，无发热。

原始模型输出：患者可能患有急性阑尾炎，建议进行腹部CT检查。注意：以上诊断仅供参考，请及时就医。

微调模型输出：根据患者主诉，考虑急性阑尾炎可能性大。鉴别诊断：右侧输尿管结石，急性胆囊炎。建议：1. 急查血常规、腹部立位平片、泌尿系超声；2. 禁食水，建立静脉通道；3. 若确诊阑尾炎，及时手术。请普外科会诊。

明显看出：微调后模型结构更完整，有鉴别诊断、有具体检查、有治疗路径——这完全来自于病历数据的语料风格。

七、总结：LoRA/QLoRA的适用边界

• 如果你有单张≥24G显存，QLoRA是性价比之王：9G显存跑7B，训练速度约500样本/秒（3个epoch用时7小时）。
• 如果想极致压缩显存，可以把r降到4，显存再省0.5G，但F1会掉到0.84左右。
• 如果领域数据量＜10万条，建议num_train_epochs设2，防止过拟合。

最后，别迷信“用更大模型”。我在同数据下试过Qwen2-14B的QLoRA（需要48G显存，我租了A100），F1只比7B高2.1%，但训练成本翻倍。对于垂直领域，7B+高质量数据+LoRA，已经能打90%的线上需求。

代码已开源在GitHub，觉得有用点个star。有显存优化的问题，评论区见。