FastAPI接口延迟飙到2.8秒,我用cProfile和Redis把P95砍到180ms
一个内部数据看板接口,单次请求要聚合7张表的数据,上线后P95延迟高达2.8秒,被业务方连续投诉三天。这篇文章记录了我完整的调优过程:先用cProfile和py-spy定位到瓶颈在N+1查询和JSON序列化,然后通过SQLAlchemy 2.0的selectinload优化查询、引入Redis缓存热点聚合结果、最后用orjson替换标准json库。压测数据从wrk的123 QPS提升到892 QP

表面轻松,遇到问题会认真追根究底。关注AI应用开发,主要分享AI应用的成本与稳定性、模型部署和推理优化和日常踩坑;重视可维护性、稳定性与协作效率。记录不一定完美,但力求真实、清楚、可验证。