用LoRA与QLoRA微调Qwen2.5-7B：从数据到loss曲线的完整记录
本文记录了在单张RTX 4090（24GB）上微调Qwen2.5-7B-Instruct的全过程。采用QLoRA 4bit量化，r=16、alpha=32、dropout=0.05，在约8500条医疗问答数据上训练3个epoch，耗时约4.5小时。训练loss从初始1.87降至0.62，验证集loss稳定在0.71。推理对比显示，微调后模型在专业术语回答准确率上从基线52%提升到87%，同时保留了
持续迭代创业成长记
Lv.1持续迭代认知，也持续验证实践结果。当前重点关注独立开发与创业，通过项目复盘、代码实现与工程实践持续提升能力；重视可维护性、稳定性与协作效率，并把过程整理成可复用的学习记录。
4文章
0粉丝
0关注
0获赞
最新文章
React 19与Vue 3.5项目从Props drilling到Zustand/Pinia的迁移实录
在三个中大型项目（React 18+TS、Vue 3.4+setup语法）中，我将跨层级状态从多层Props/Context/Provide-inject迁移至Zustand 4.5与Pinia 2.1。迁移后，组件重渲染次数平均减少63%（React）与58%（Vue），代码行数缩减40%以上。本文记录方案选型对比、分步迁移策略、以及我在React 19 RC环境下遇到的Concurrent渲染
Prompt Engineering调优实录：从38%到91%准确率的RAG问答系统优化
在一次金融研报RAG问答系统开发中，我通过系统化Prompt Engineering，将GPT-4o-mini的答案准确率从38%提升至91%。本文记录了5轮Prompt迭代的完整实验数据：包括Few-shot示例数量对输出质量的影响（3-shot比0-shot准确率提升47%）、结构化指令与JSON输出约束的token消耗对比（平均每请求节省312 tokens）、以及系统Prompt中角色设定
Milvus vs Qdrant：电商图片向量检索选型实测对比
在电商以图搜图场景中，向量数据库选型直接决定资源成本与响应速度。本文基于vivo商品库（200万图片，768维向量），对比Milvus 2.3.3和Qdrant 1.8.0在相同硬件（4C8G）下的部署、查询性能与内存占用。实测显示：Qdrant在百万级数据下P95延迟低至12ms，内存占用仅Milvus的60%；而Milvus在HNSW索引构建时CPU暴涨至95%，且Docker部署依赖etcd