资讯头条
全部 →精选原创
全部 →
DolphinDB V3 把流批一体、向量库与 MCP 装进同一个引擎
10小时前
QwenLM/qwen-code:住在终端里的开源 AI 编程智能体
10小时前
GPT-6.1 Terra 发布,computer use 单价压到十分之一
10小时前
Apache IoTDB 2.0:树模型和表模型怎么选
10小时前
Function Calling 的微调基础与 tool_calls 回环
10小时前
OpenAI 与波兰 NASK 签了 AI 安全协议,范围停在 explore
10小时前
向量数据库选型:pgvector、Qdrant、Weaviate、Milvus 怎么挑
10小时前推荐博客
全部 →
从传统客服迁移 AI 客服,完整落地步骤参考
从传统客服迁移AI客服切忌仓促上线。本文梳理了盘点目标、POC实测、接口对接、知识库搭建、灰度试运行、放量落地、长期迭代七大落地步骤。借助晓多垂类AI客服的原生多渠道打通、自动建库、人机协同能力,能够平稳迁移,规避上线翻车风险。
FastAPI接口响应从1.8s降到86ms:一次Profiling驱动的数据库与缓存优化记录
线上商品详情接口P99延迟一度飙到1.8s,CPU打满但代码看起来"没毛病"。用py-spy火焰图定位到N+1查询和同步阻塞,再用SQLAlchemy的selectinload、复合索引、Redis两级缓存逐步拆解,配合locust压测验证,最终P99降到86ms,QPS从120提升到1400。本文记录了完整的定位过程、关键代码、踩过的坑和每一轮的真实压测数据,适合正在被慢接口折磨的后端同学参考。
LoRA微调7B模型全流程:数据构造、训练配置与loss曲线分析
本文记录了在单张RTX 4090(24GB)上使用LoRA微调Qwen2.5-7B-Instruct的完整过程。训练数据为1.2万条垂直领域问答对,采用LoRA rank=16、alpha=32配置,配合bitsandbytes 4bit量化(QLoRA)将显存占用压到18GB以内。训练3个epoch耗时约6.5小时,最终loss从1.83降至0.62。推理对比显示,微调后模型在领域术语准确率和格
Git分支策略与Code Review、CI/CD集成的团队协作工作流设计
团队从5人扩展到18人后,直接在主分支开发的模式彻底崩了——平均每周3次合并冲突、2次线上回滚。本文记录我们落地Git Flow改良版的全过程:如何用feature/release/hotfix三类分支配合保护规则,把冲突降到每周0.5次;如何用GitLab MR模板+2人Approval把Code Review覆盖率从40%提到100%;以及GitLab CI 16.x + Docker 24.
Prompt Engineering实验:同一结构化抽取任务下6版提示词的Token消耗与准确率对比
本文以「从非结构化招聘JD中抽取结构化字段」为具体任务,在同一模型(gpt-4o-2024-08-06,temperature=0)上对比了6个版本的Prompt设计,记录了每版的token消耗、字段级准确率与失败样本。实验显示:加入JSON Schema约束与2个few-shot示例后,字段准确率从61.3%提升到94.7%,但输入token从312涨到1187;改用精简Schema描述+单示例
LoRA微调7B模型:单卡24G显存搞定领域问答,附loss曲线与推理对比
本文记录了我在单张RTX 4090(24GB)上用LoRA微调Qwen2.5-7B-Instruct做垂直领域问答的完整过程。训练数据是3200条清洗后的领域QA对,LoRA rank设为16,alpha=32,dropout=0.05,target_modules覆盖全部线性层。用bitsandbytes做4bit量化后,QLoRA方案显存峰值17.8GB,训练3个epoch约2小时40分,最终
Milvus 2.4 与 Qdrant 1.9 实测对比:千万级向量检索性能与资源占用
本文在一个真实的图文去重业务场景下,对 Milvus 2.4.4 和 Qdrant 1.9.2 进行了从部署到压测的全流程对比。测试数据为 1000 万条 768 维向量,在相同 8C16G 单机环境下,Qdrant 的 P99 延迟为 23ms,Milvus 为 41ms;内存占用方面 Qdrant 约 11.2GB,Milvus 约 9.8GB 但需要额外 etcd 与 MinIO。文章给出完
热门讨论
更多 →每天 AI 精选,直达你的邮箱
每天 4 篇 AI 深度精选,技术实战、模型动态、行业趋势与开发者观点,免费直达邮箱。
无需注册,可随时取消订阅
作者推荐
开发资源
更多 →推荐模型
更多 →推荐工具
更多 →
加入智元界,分享你的 AI 实践
发布技术文章 · 提出开发问题 · 分享开源项目 · 结识更多开发者