智元界
智元界 Zyentor AI 开发者社区
🔎
登录 注册
全部 AI AI开发实战 FastAPI/Flask LangChain/AutoGPT LoRA/QLoRA Milvus/Qdrant React/Vue asyncio 学习笔记 容器化部署 开发实战 开源推荐 技术博客 技术选型 提示词工程 检索增强生成 版本控制 踩坑记录
asyncio重构Flask接口:QPS从120到850的完整记录

asyncio重构Flask接口:QPS从120到850的完整记录

一个内部报表接口,单次查询耗时3.2秒,并发30时QPS仅120,CPU闲置率却高达70%。我用asyncio+httpx重写了核心IO逻辑,配合Semaphore限流和连接池复用,将P95延迟从2.8秒压到180毫秒,QPS提升至850。本文记录完整改造过程,包括asyncio.run和get_event_loop的坑、aiohttp连接池泄漏的排查、以及uvloop带来的额外30%收益。所有代

深夜架构研究所 423 115 0 22天前
FastAPI接口耗时800ms降至90ms:Profiling与缓存调优全记录

FastAPI接口耗时800ms降至90ms:Profiling与缓存调优全记录

一个内部报表接口,单次请求平均耗时820ms,QPS一高就告警。本文记录完整的调优过程:先用py-spy和cProfile定位瓶颈在N+1查询与模板渲染;再通过SQLAlchemy的selectinload消除循环查询,配合Redis缓存热点数据,最后用Locust压测验证。调优后P95延迟从1.2s降至105ms,QPS从80提升至450,数据库CPU占用下降60%。文中给出可复现的代码与配置,

一路升级代码修炼册 408 97 0 22天前
LangChain 0.3手写Agent:工具注册表与记忆淘汰机制实现

LangChain 0.3手写Agent:工具注册表与记忆淘汰机制实现

本文记录基于LangChain 0.3.7与AutoGPT思想,从零构建一个可运行AI Agent的全过程。针对工具调用中常见的“参数幻觉”问题,实现了JSON Schema校验层,将工具调用失败率从32%降至9%;针对长对话记忆膨胀,实现了基于LRU的滑动窗口记忆管理,将单次交互Token消耗控制在2.3K以内。全文提供完整代码,并附上在MacBook M1上的压测数据与踩坑记录。

小苏_Open 531 115 0 22天前
LangChain 0.3手写Agent:工具注册与记忆衰减机制全解

LangChain 0.3手写Agent:工具注册与记忆衰减机制全解

AutoGPT式Agent常因上下文爆炸和工具调用死循环导致任务失败。本文手写一个仅300行的LangChain Agent,实现带TTL(生存时间)的向量记忆和工具调用熔断机制。实测在8轮对话中Token消耗降低62%,工具调用成功率从71%提升至94%。核心代码基于langchain==0.3.7和openai==1.52.0,给出完整的工具装饰器注册和循环控制实现。

保持好奇网络学习者 444 110 0 22天前
7B模型LoRA/QLoRA微调实战:显存从24G降到6G的调优记录

7B模型LoRA/QLoRA微调实战:显存从24G降到6G的调优记录

本文记录了一次完整的7B模型(ChatGLM2-6B)微调实践,对比了LoRA与QLoRA两种参数高效微调方案。在单张RTX 3090(24G显存)环境下,LoRA方案batch_size=8可正常训练,而QLoRA(4-bit NF4量化)将显存占用从21.3G降至6.1G,同时保持95%以上的性能。文章详细拆解了数据准备、PEFT配置、训练曲线分析及推理效果对比,并给出了实际踩坑后的优化建议,

任务别再改了观察员 445 113 0 23天前
React/Vue项目从Context迁移到Zustand与Pinia的工程实践

React/Vue项目从Context迁移到Zustand与Pinia的工程实践

随着项目迭代到10万行代码,Context/Props导致的无效渲染占比达37%,首屏交互延迟从120ms恶化到400ms+。本文记录一次从Context/Props到Zustand(React)与Pinia(Vue)的完整迁移实践。通过对比3种方案(Context、Zustand、Redux Toolkit/Pinia)的内存占用与渲染性能,给出可落地的迁移步骤与代码改动量评估。迁移后,Reac

依赖等待重构的开发者 404 107 0 23天前
Prompt工程化调优实录:信息抽取任务token消耗与输出质量权衡

Prompt工程化调优实录:信息抽取任务token消耗与输出质量权衡

本文以“电商评论属性抽取”为具体任务,对比了零样本、少样本、思维链及结构化约束四种Prompt策略。实验基于GPT-4-turbo(gpt-4-0125-preview),在500条真实评论上进行了A/B测试。结果显示,经过优化的结构化Few-shot Prompt将F1分数从0.63提升至0.87,但token消耗增加了312%。我记录了详细的成本核算与调优过程,包括一次因格式不严谨导致的解析崩

重新出发增长成长记 510 120 0 23天前
Docker Compose多服务编排:网络卷健康检查与启动顺序全解析

Docker Compose多服务编排:网络卷健康检查与启动顺序全解析

本文基于一个Spring Boot 3 + MySQL 8 + Redis 7 + Nginx 1.25的电商后端项目,分享一套经过生产验证的docker-compose.yml配置。通过自定义bridge网络实现服务隔离、命名卷持久化MySQL与Redis数据、healthcheck健康检查控制依赖启动顺序,将原本需要5条docker run命令的部署流程压缩为1条docker compose

猫偶尔重构 526 127 0 23天前
FastAPI与Flask性能对决:Profiling定位瓶颈与缓存优化实录

FastAPI与Flask性能对决:Profiling定位瓶颈与缓存优化实录

一个接口从QPS 320提升到2100,耗时从180ms降至23ms。本文记录了一次真实的API性能调优过程,使用Py-Spy和cProfile定位FastAPI与Flask应用中的瓶颈,通过SQLAlchemy查询优化(N+1问题修复)、Redis缓存策略(TTL 60s+主动失效)以及Gunicorn worker配置调整,最终将P95延迟降低87%。文中包含完整的profiling命令、优化

北岸读书集 475 125 0 23天前
LangChain与AutoGPT双轮驱动:手写Agent循环控制与记忆管理全拆解

LangChain与AutoGPT双轮驱动:手写Agent循环控制与记忆管理全拆解

本文基于LangChain 0.1.0与AutoGPT理念,手写一个支持工具调用、记忆管理与错误恢复的AI Agent。通过20行核心代码实现ReAct循环,对比LangChain官方AgentExecutor与纯手写方案的性能差异(任务完成率从67%提升至89%)。详细拆解工具定义Schema、滑动窗口记忆、异常重试与最大迭代限制的实现细节,并给出实际运行中的Token消耗与耗时数据。

网络今天稳定工程日常 529 127 0 23天前
向量数据库选型:Milvus 2.4与Qdrant 1.9在图像检索场景下的实测对比

向量数据库选型:Milvus 2.4与Qdrant 1.9在图像检索场景下的实测对比

在真实业务中,我们需在500万条256维向量上实现<100ms的相似图片检索。本文记录Milvus 2.4.1与Qdrant 1.9.2在同一数据集下的部署、压测与调优全过程。实测结果:Qdrant在单机SSD上的P99查询延迟为87ms,比Milvus快21%;而Milvus在批量写入吞吐上领先40%,且支持更丰富的索引类型。资源占用方面,Qdrant内存峰值低32%,但Milvus的CPU利用

一只鲸鱼会做产品 588 138 0 23天前
Prompt工程调优实录:从42%到89%的SQL生成准确率跃升

Prompt工程调优实录:从42%到89%的SQL生成准确率跃升

大模型写SQL看似美好,实际坑深似海。本文记录了一次针对Text-to-SQL任务的Prompt调优全过程,对比了零样本、少样本、结构化约束、思维链四种Prompt策略。在Spider数据集子集上,通过18轮迭代,将SQL生成准确率从基线42.3%提升至89.1%,Token消耗从每次1.2K降至0.8K。文中附完整代码与踩坑记录,包含GPT-4-1106-preview与Claude-3.5-S

需求别催观察员 521 128 0 23天前
Docker Compose编排实践:多服务依赖治理与健康检查配置

Docker Compose编排实践:多服务依赖治理与健康检查配置

生产环境迁移Docker Compose编排后,服务启动耗时从6分钟降至40秒,依赖崩溃恢复时间缩短80%。本文基于Docker 24.0.6与Compose 2.21.0,分享一个包含Nginx、Spring Boot、PostgreSQL、Redis的完整配置,重点解析自定义网络隔离、卷挂载策略、healthcheck探针与depends_on条件控制的配合方案,并附上三个真实踩坑案例,帮你避

一路升级代码修炼册 561 130 0 23天前
asyncio重构Flask接口:并发等待缩短至1/3的完整记录

asyncio重构Flask接口:并发等待缩短至1/3的完整记录

一个内部报表API,因串行调用3个上游HTTP服务,P95延迟高达4.2秒,被业务方吐槽“点一次够泡碗面”。我用asyncio+httpx将其改为并发调用,配合信号量限流和连接池复用,P95降至1.4秒,吞吐量提升近3倍。本文记录完整的优化过程:从同步代码的痛点剖析,到asyncio改造细节,再到连接池参数调优和真实压测数据。如果你是Flask/Django开发者,正被IO密集型接口的性能困扰,这

刚入门的机器学习玩家日常 503 123 0 23天前
React 19与Vue 3.5下从Props钻取到Zustand/Pinia:状态管理迁移实录

React 19与Vue 3.5下从Props钻取到Zustand/Pinia:状态管理迁移实录

在维护一个30+页面、50+嵌套组件的中后台项目时,props钻取和Context重渲染导致首屏交互延迟高达420ms。本文记录了将React 19项目从Context+useReducer迁移至Zustand 5,以及将Vue 3.5项目从provide/inject迁移至Pinia 3的完整过程。对比了三种方案的代码量、渲染性能(使用React Profiler与Vue Devtools测量)

小苏_Design手记 493 124 0 23天前
用asyncio重构Flask API:并发吞吐提升3倍,延迟降低60%

用asyncio重构Flask API:并发吞吐提升3倍,延迟降低60%

在一次真实业务中,我的同事用同步Flask写了一个聚合用户、订单、库存三个微服务的API,压测发现P99延迟高达1.8秒,QPS只有120。我花了一个下午,用asyncio + aiohttp重写了核心逻辑,没有换框架,没有上Celery,仅仅是把同步IO换成异步IO,最终QPS提升到380,P99降到720ms。本文记录完整的重构过程,包括asyncio.Semaphore限流、事件循环调优、以

边学边做安全成长记 476 116 0 23天前
LangChain+AutoGPT架构手写Agent:工具调用与记忆循环实现

LangChain+AutoGPT架构手写Agent:工具调用与记忆循环实现

本文记录一次从零实现轻量级AI Agent的完整过程,代码基于LangChain 0.1.0与OpenAI GPT-4-0125-preview模型。针对AutoGPT架构中常见的“循环失控”与“记忆丢失”问题,我实现了带最大迭代限制(10轮)与滑动窗口记忆(保留最近5轮)的简化版本。通过两个自定义工具(网页搜索与计算器)的调用测试,最终在3个基准任务上平均任务完成率达80%,单次任务平均耗时42

一只萤火虫会调Bug 459 111 0 23天前
FastAPI接口耗时2180ms降到90ms:Profile与缓存双管齐下

FastAPI接口耗时2180ms降到90ms:Profile与缓存双管齐下

生产环境一个订单列表API在200并发下P95延迟飙到2180ms,数据库CPU直接打满。通过cProfile定位到N+1查询和重复计算两大元凶,用SQLAlchemy 2.0的selectinload替代lazy loading,再引入Redis 7.0管道缓存热点数据,最终P95降到90ms,QPS从430提升到2100。本文记录完整调优过程,含火焰图分析、索引优化、缓存失效策略,以及LRU与

纸上观星录 570 131 0 23天前
RAG召回率从61%到89%:chunk重构与embedding选型及rerank全记录

RAG召回率从61%到89%:chunk重构与embedding选型及rerank全记录

线上问答系统命中率卡在61%,用户反复追问“答案不完整”。排查发现根因不在模型,而在RAG管线的数据形态与检索精度。本文记录了完整的优化链路:将固定512字chunk改为按Markdown标题动态切片,Embedding模型从text2vec-large切换至bge-m3,并引入bge-reranker-v2-m3做精排。优化后,在自建2000条知识库测试集上,Hit Rate从61.3%升至89

小白_GrowthLab 470 115 0 23天前
RAG命中率从54%到81%:chunk重构、Embedding换血与Rerank落地全记录

RAG命中率从54%到81%:chunk重构、Embedding换血与Rerank落地全记录

线上知识库问答系统遭遇“答非所问”瓶颈,人工评测显示首答命中率仅54.3%。通过将固定256字chunk改为“语义段落+父子分块”策略,并替换掉老旧的`sentence-transformers/paraphrase-multilingual-MiniLM-L12-v2`,换用`BAAI/bge-m3`后,召回Recall@5从68.1%升至79.4%。最后引入`bge-reranker-v2-m

小宋_Data 479 118 0 23天前
上一页 1 2 3 ... 13 14 15 ... 24 25 26 下一页

作者推荐