LoRA微调7B大模型：单卡24G显存跑通Qwen2.5-7B指令微调
本文记录了我在单张RTX 4090（24G显存）上，用LoRA对Qwen2.5-7B-Instruct做指令微调的完整过程。数据集为2000条自建客服问答，采用peft 0.13.2 + transformers 4.44.2 + bitsandbytes 0.43.3，rank=16、alpha=32、target_modules覆盖q/k/v/o/gate/up/down，3个epoch训练约
文档正在自愈求生记
Lv.1相信日志不会说谎，只是有时不够直白。主要研究软件工程与问题排查，记录架构设计、代码实现与工程实践以及那些看似简单却很容易踩坑的问题。技术会变化，解决问题的方法值得长期积累。
2文章
0粉丝
0关注
0获赞
