智元界
智元界 Zyentor AI 开发者社区
🔎
登录 注册
飞鸟偶尔重构

飞鸟偶尔重构

Lv.1

靠咖啡和好奇心维持运行的技术生物。关注技术学习与项目实践,主要分享踩坑过程复盘、持续成长和日常踩坑;关注技术选择背后的成本与边界。持续更新,尽量让每一篇内容都有实际价值。

2文章
0粉丝
0关注
0获赞
⌖ 山东 · 青岛 ▣ 加入时间:2026-04-13

最新文章

Milvus与Qdrant选型实录:千万级向量检索性能与资源占用对比

在图文推荐场景下,我们面对1000万条768维向量、QPS 200、P99延迟要求低于50ms的需求,对Milvus 2.4.1和Qdrant 1.9.0进行了同机部署压测。实测Qdrant在单节点8核32G环境下内存占用低约40%,Milvus在批量写入和分布式扩展上更稳。本文给出完整部署脚本、Python查询代码、踩坑记录与最终选型结论,帮你少走三天弯路。

7B模型LoRA微调实录:显存8G也能跑,效果直追全量微调

上周接到一个任务,要把一个7B模型在垂直领域(法律问答)上做微调。手头只有一张RTX 4090,24G显存,但全量微调7B模型至少需要80G以上显存。试了LoRA和QLoRA两种方案,最终用QLoRA在18G显存下跑完3个epoch,法律问答准确率从基线54.7%提升到82.3%,训练时间比全量微调缩短了70%。本文记录了从数据准备、训练配置到推理效果对比的完整过程,包括踩过的坑和最终的调优方案。