用Spring AI实现权限感知RAG检索器:租户过滤、文档ACL与引用校验
实现一个权限感知检索组件,把认证上下文转为向量过滤条件,并在重排与生成后再次校验文档ACL。
用Spring Boot搭建多模型路由网关:规则、预算、Fallback与审计
实现一个统一路由网关,根据任务复杂度、风险、租户套餐与预算选择模型,并提供受控Fallback。
用Spring Boot搭建AI结构化输出网关:Schema注册、校验、自修复与版本治理
当多个业务系统分别调用大模型并自行解析JSON时,结构化输出规则会散落在Controller和Prompt中,导致Schema版本不一致、Provider切换失败、重试成本不可见和错误对象进入业务流程。本文实现一个轻量级Spring Boot结构化输出网关:统一注册输出Schema、选择模型、启用Provider原生结构化输出、执行本地Schema与业务校验、限制自修复次数,并记录Schema版本
用Spring Boot搭建企业AI安全网关:输入审核、PII脱敏、输出校验与审计
企业接入多个大模型后,若每个业务系统自行处理Moderation、敏感信息脱敏、Prompt Injection、工具权限和日志审计,安全策略很快会失控。本文使用Spring Boot设计一个统一AI安全网关,通过标准请求对象串联身份校验、输入长度限制、PII检测、内容审核、Prompt Injection检测、模型代理、输出DLP和审计日志,并提供可扩展接口与核心代码骨架。
用Spring Boot搭建AI成本与稳定性监控看板:Token、预算、429、熔断与降级
Spring AI 2.0已经可以通过Micrometer输出模型调用耗时与Token指标,但企业要真正控制成本,还需要把模型价格、业务场景、租户、预算、重试、Tool Calling和降级事件统一起来。本文实现一个轻量级AI成本与稳定性监控服务:从ChatResponse读取Usage,计算单次费用,写入业务成本表,同时用Micrometer记录低基数指标,并提供租户月预算、场景成本、429、熔
用Spring Boot搭建企业MCP工具网关:统一接入、租户隔离、白名单与审计
企业接入多个MCP Server后,如果让每个Agent直接连接订单、仓储、客户、知识库和文件工具,会快速出现认证分散、工具重名、权限不一致、审计缺失和服务端地址泄露等问题。本文使用Spring Boot设计一个MCP工具网关:上游连接多个MCP Server,下游向Agent提供统一工具目录,并在调用前执行租户校验、工具白名单、风险审批、参数脱敏、超时和审计。文章给出核心数据模型、路由代码和生产
用Spring Boot搭建AI工具执行网关:白名单、审批、幂等与审计完整实战
直接把订单、退款、邮件、文件删除等业务方法暴露给大模型,会把模型的不确定性带入真实业务系统。更稳妥的做法是建立独立工具执行网关:模型只能提出工具名称和参数,网关负责身份校验、工具白名单、JSON Schema验证、风险分级、人工确认、幂等执行、结果脱敏和审计。本文使用Spring Boot实现一个可运行的轻量级工具网关,并给出ToolDefinition、PolicyEngine、Approval
用Spring Boot+PostgreSQL搭建可审计的Chat Memory服务
Spring AI内置Chat Memory适合维护模型上下文,但企业系统还需要完整聊天记录、会话所有权、消息状态、审计日志和删除策略。本文使用Spring Boot、PostgreSQL与Spring AI 2.0设计一个双层存储方案:`ChatMemoryRepository`负责模型短期上下文,业务表负责完整Chat History;同时实现会话创建、所有权校验、消息写入、Memory调用和
用Spring Boot搭建统一AI流式网关:SSE事件、模型路由、取消与审计
企业同时接入DeepSeek、OpenAI、Qwen或本地模型后,如果每个业务系统直接对接Provider,很快会出现流式协议不一致、错误码分散、取消无效、Token统计缺失和模型切换困难。本文实现一个轻量级Spring Boot AI流式网关,统一请求协议、SSE事件、模型路由、任务状态、取消接口、日志审计与Provider适配,并说明如何避免网关成为新的单点瓶颈。
用Spring AI+Qdrant实现可恢复的RAG增量索引服务
# 用Spring AI+Qdrant实现可恢复的RAG增量索引服务 ## 文章摘要 本文实现一个面向企业知识库的增量索引服务:通过文档Checksum和Chunk Hash识别变化,只对新增或修改片段生成Embedding;使用稳定Point ID写入Qdrant;通过版本状态实现新旧索引原子切换;失败任务可重试,删除操作可幂等执行。示例使用Spring Boot、Spring AI和Qdr
用Docling+Spring AI搭建PDF解析与RAG入库管道:表格、Metadata和质量门禁
# 用Docling+Spring AI搭建PDF解析与RAG入库管道:表格、Metadata和质量门禁 ## 文章摘要 Spring AI提供DocumentReader、DocumentTransformer和VectorStore等ETL能力,但复杂PDF的版面、表格和OCR往往需要更专业的解析工具。Docling可以将PDF解析成包含页面、标题、段落、表格和图片信息的结构化文档。本文通
用Spring AI+Qdrant实现混合检索服务:Dense、Sparse、RRF与权限过滤
# 用Spring AI+Qdrant实现混合检索服务:Dense、Sparse、RRF与权限过滤 ## 文章摘要 单一Dense向量检索擅长语义理解,却容易漏掉产品型号、合同编号和专业缩写;纯关键词检索能够精确命中术语,却难以理解自然语言。本文使用Spring Boot、Spring AI和Qdrant设计一个可复用的企业混合检索服务,完成Dense与Sparse双路召回、租户权限过滤、RR
用Spring Boot搭建一个可版本化的Prompt模板管理器:加载、缓存、灰度与回滚
# 用Spring Boot搭建一个可版本化的Prompt模板管理器:加载、缓存、灰度与回滚 ## 文章摘要 企业AI项目中的Prompt不能长期散落在Java代码里。随着场景增加,需要解决模板版本、环境差异、审批、缓存、灰度、回滚和调用追踪。本文实现一个轻量级Spring Boot Prompt模板管理器:使用数据库保存模板元数据,通过Resource与StringTemplate渲染变量,
AI 工具开发实战(9):开发一个 AI 搜索引擎聚合器——一次提问,对比多个 AI 的结果
用 FastAPI + aiohttp + SSE 搭建 AI 聚合搜索页面:同时查多个 AI 搜索、流式输出结果、对比展示。附完整可运行代码。
AI 工具开发实战(10):开发一个 AI Agent 自动化工作流——让多个 Agent 协作完成复杂任务(完结篇)
最后做一个 Agent 工作流引擎:定义多个 Agent 角色、串联执行、上下文传递。内置研究和代码审查两个预定义工作流。系列完结篇。
AI 工具开发实战(7):开发一个 AI 数据看板——用 Streamlit 上传文件自动分析
用 Streamlit + Pandas + LLM 搭建 AI 数据看板:上传 Excel/CSV,AI 自动分析数据、生成图表和洞察、支持对话式问答。
AI 工具开发实战(8):开发一个可复用的 AI 聊天机器人框架——30 行代码部署一个对话服务
封装一个可复用的 AI 聊天框架:多模型切换、流式输出、对话管理、一键部署 FastAPI 服务。支持 DeepSeek/豆包/OpenAI。
AI 工具开发实战(5):开发一个 AI 浏览器划词翻译插件——Chrome 扩展开发入门
从零开发 Chrome 划词翻译插件:Manifest V3、content script 注入、LLM API 调用、浮动气泡翻译。选中英文自动显示中文翻译。
AI 工具开发实战(6):开发一个 AI 周报自动生成器——读 Git 日志,AI 帮你写周报
从零开发 AI 周报生成器:用 git log 读提交、统计分析、调用 LLM 生成结构化 Markdown 周报。包含项目概况、主要工作、问题修复等章节。
AI 工具开发实战(4):开发一个 VS Code AI 插件——选中代码一键解释、优化、生成测试
从零开发 VS Code AI 插件:右键菜单调用 LLM 解释/优化代码、自动生成单元测试,WebView 展示结果。附完整 extension.js 代码和打包安装流程。