1. 问题背景：我为什么要微调7B模型，而不是用API？
去年底接到一个任务：给某三甲医院做医疗预问诊系统，需要模型能理解“我肚子疼，还有点恶心”这种口语化描述，并给出科室建议和基础检查项目。试过GPT-4和文心一言，效果可以但数据合规过不了——患者信息不能出内网。于是转向开源模型，选了Llama-3-8B-Instruct（4月份刚发布，效果比同量级好不少）。
但直接用Base模型跑医疗问答，效果惨不忍睹：问“感冒了怎么办”，它回答“感冒是一种由病毒引起的呼吸道感染，建议多喝热水和休息”——这回答本身没错，但缺乏医疗专业性，比如不会追问“是否发热超过38.5℃”“是否有黄痰”等关键信息。对比之下，需要微调。
为什么不选全量微调？因为我手上只有两张RTX 3090（24G），全量微调7B模型需要至少60G显存（用DeepSpeed ZeRO-3），而且训练速度极慢。LoRA（Low-Rank Adaptation）冻结原模型参数，只训练低秩矩阵，显存占用直接砍半。QLoRA更进一步，把模型量化到4bit，让单卡跑7B成为现实。
2. 环境与版本：一张表说清楚
先列下我用的环境，方便你复现：
Python: 3.10.12
CUDA: 12.1
PyTorch: 2.1.2
transformers: 4.40.0
peft: 0.8.2
bitsandbytes: 0.43.0
accelerate: 0.27.2
datasets: 2.17.0
trl: 0.7.11
显卡：NVIDIA RTX 3090 24G（单卡，没上双卡，因为QLoRA单卡够用）
模型：meta-llama/Llama-3-8B-Instruct（HuggingFace下载，约16G）
关键提示：bitsandbytes在Windows上兼容性差，我一开始在Windows下装0.43.0版本一直报错，后来换WSL2（Ubuntu 22.04）才正常。如果你用Mac，直接放弃QLoRA，用CPU跑LoRA（但7B模型CPU推理极慢，不推荐）。
3. 方案设计：LoRA还是QLoRA？
先复制一段核心区别：
| 方案 | 显存占用 | 训练速度 | 效果损失 | 适用场景 |
|---|---|---|---|---|
| 全量微调 | 60G+ | 慢 | 无 | 有A100/H100 |
| LoRA（8bit） | 16-20G | 中等 | 低 | 单卡24G |
| QLoRA（4bit NF4） | 12-15G | 快 | 可忽略 | 单卡12-24G |
我最终选了QLoRA，原因很实际：
1. 3090虽然24G，但跑LoRA（8bit）时显存峰值到19.8G，稍微加长序列就爆显存
2. QLoRA用4bit NF4量化+Double Quantization，显存直接降到14.7G，还有充足余量
3. 论文和社区实践都表明，4bit量化对最终效果影响0.85的重复样本）
- 过滤短样本（长度”强制分段，不仅省token，还让模型学会在句号处停顿。处理后平均序列长度从312降到287，训练速度提升8%。
坑3：推理时模型重复输出“好的”“好的”
这是LoRA微调常见问题，因为训练数据里有些医生回答习惯性带口头禅。解决方法是把回答中“嗯”“好的”等语气词全部删掉，重新清洗数据后训练，重复现象基本消失。
6. 效果数据：loss曲线与推理对比
Loss曲线：训练3个epoch，loss从初始的3.42降到1.18（见下图示意）。前500步下降最快（3.42→2.1），之后缓慢收敛。注意：如果loss降到1.0以下继续训练，模型会过拟合（在验证集上F1反而下降），所以3个epoch正好。
Loss 3.5 |*
| *
| * *
| * *
| * *
| * *
1.0 |________________________*____*____ epoch
1 2 3
推理效果对比：我用100条真实患者的预问诊提问（不在训练集里）做测试，对比Base模型、LoRA微调、QLoRA微调：
| 指标 | Llama-3-8B-Instruct (Base) | LoRA (8bit) | QLoRA (4bit) |
|---|---|---|---|
| 科室判断准确率 | 58.3% | 79.6% | 78.9% |
| 检查建议F1-score | 0.41 | 0.66 | 0.65 |
| 回答幻觉率 | 23% | 9% | 10% |
| 平均响应时间(单卡推理) | 2.1s | 1.9s | 1.8s |
可以看到，QLoRA和LoRA效果几乎持平（差距在1%以内），但QLoRA显存需求少30%。Base模型在医疗专业场景下，幻觉率高达23%——比如问“高血压吃什么药”，它会回答“建议服用阿司匹林”，但实际阿司匹林不是一线降压药，这是很危险的。
一个典型案例：
用户问：“我最近每天晚上睡不着，白天很累，心跳很快，应该挂什么科？”
- Base模型回答：“建议挂心理科，可能是焦虑症”——错误，忽略心跳快这个躯体症状
- QLoRA微调后回答：“建议优先挂心内科，排除心律失常和甲状腺功能亢进；若心脏检查无异常，可转诊心理科评估睡眠障碍”——准确，而且给出了排序逻辑
7. 总结：QLoRA是目前单卡微调7B的最优解
如果你和我一样，只有一块24G以下的显卡，又想微调7B以上模型，QLoRA是当前性价比最高的方案。4bit量化+LoRA，用不到15G显存就能达到接近全量微调的效果。
最后说一句：微调不是万能的。如果你的任务和通用模型现有能力差距不大，比如做简单的文本分类，那直接设计prompt就能解决，没必要花一周时间微调。但如果你的场景有专业领域知识（医疗、法律、金融），且需要模型输出结构化专业回答，LoRA/QLoRA是值得投入的方向。
有问题欢迎在评论区交流，特别是关于显存优化和数据处理的部分，我踩过的坑你们大概率也会遇到。
