把 80 屏 Agent 日志变成一张图:Spring Boot SSE + React Flow 的 Run Canvas 实现
前一篇聊到一个我很认同的方向:复杂 Agent 不能只靠聊天窗口展示状态。
用Spring Boot搭建AI发布质量门禁:离线评测、影子流量与金丝雀决策
实现统一质量门禁服务,汇总离线报告、影子指标和金丝雀业务结果,输出发布、暂停或回滚决定。
用Spring Boot搭建Agent安全执行网关:代码沙箱、浏览器会话与审计
实现统一安全执行网关,对代码、浏览器和文件任务应用策略、资源限制、审批和审计。
用Spring Boot实现预算感知的多Agent编排器
实现Supervisor分解任务、受控并行Worker、版本化共享状态和预算结算。
用Spring Boot搭建Agent Checkpoint服务:保存、恢复、审批与重放
实现Agent Checkpoint与人工审批服务,支持状态快照、事件日志、恢复令牌和步骤重放。
用Python搭建向量库基准测试CLI:Recall、延迟、过滤与成本对比
实现一个可重复的向量库基准工具,使用同一数据集比较索引、过滤、并发和量化配置。
用Spring Boot搭建轻量GraphRAG服务:实体、关系、路径检索与证据回溯
实现一个轻量GraphRAG服务,将文档实体和关系写入图存储,通过受约束路径检索返回原始证据。
用Spring AI搭建证据包构建器:父子检索、压缩、Claim绑定与引用校验
将检索候选转为带版本、来源、权限和稳定编号的证据包,并在生成后执行Claim校验。
用Spring AI搭建RAG查询增强服务:实体保护、Multi-Query与结果融合
实现查询增强服务,对输入进行实体锁定、复杂度分类、策略选择、并行检索和结果融合。
用GitHub Actions搭建Spring AI发布流水线:评测门禁、镜像、灰度与自动回滚
实现面向Spring AI应用的CI/CD流水线,在构建镜像前运行评测,发布后执行金丝雀检查。
用JUnit搭建AI回归测试框架:数据集、规则评分、Judge与质量报告
实现可在CI运行的AI回归框架,读取JSONL数据集,执行规则与Judge评分并比较基线。
用Spring Boot搭建AI长任务中心:队列、进度、取消、回调与断点恢复
实现统一AI长任务中心,用状态机、队列、进度事件和幂等回调管理报告生成、批量分析和入库。
用Spring AI实现权限感知RAG检索器:租户过滤、文档ACL与引用校验
实现一个权限感知检索组件,把认证上下文转为向量过滤条件,并在重排与生成后再次校验文档ACL。
用Spring Boot搭建多模型路由网关:规则、预算、Fallback与审计
实现一个统一路由网关,根据任务复杂度、风险、租户套餐与预算选择模型,并提供受控Fallback。
用Spring Boot搭建AI结构化输出网关:Schema注册、校验、自修复与版本治理
当多个业务系统分别调用大模型并自行解析JSON时,结构化输出规则会散落在Controller和Prompt中,导致Schema版本不一致、Provider切换失败、重试成本不可见和错误对象进入业务流程。本文实现一个轻量级Spring Boot结构化输出网关:统一注册输出Schema、选择模型、启用Provider原生结构化输出、执行本地Schema与业务校验、限制自修复次数,并记录Schema版本
用Spring Boot搭建企业AI安全网关:输入审核、PII脱敏、输出校验与审计
企业接入多个大模型后,若每个业务系统自行处理Moderation、敏感信息脱敏、Prompt Injection、工具权限和日志审计,安全策略很快会失控。本文使用Spring Boot设计一个统一AI安全网关,通过标准请求对象串联身份校验、输入长度限制、PII检测、内容审核、Prompt Injection检测、模型代理、输出DLP和审计日志,并提供可扩展接口与核心代码骨架。
用Spring Boot搭建AI成本与稳定性监控看板:Token、预算、429、熔断与降级
Spring AI 2.0已经可以通过Micrometer输出模型调用耗时与Token指标,但企业要真正控制成本,还需要把模型价格、业务场景、租户、预算、重试、Tool Calling和降级事件统一起来。本文实现一个轻量级AI成本与稳定性监控服务:从ChatResponse读取Usage,计算单次费用,写入业务成本表,同时用Micrometer记录低基数指标,并提供租户月预算、场景成本、429、熔
用Spring Boot搭建企业MCP工具网关:统一接入、租户隔离、白名单与审计
企业接入多个MCP Server后,如果让每个Agent直接连接订单、仓储、客户、知识库和文件工具,会快速出现认证分散、工具重名、权限不一致、审计缺失和服务端地址泄露等问题。本文使用Spring Boot设计一个MCP工具网关:上游连接多个MCP Server,下游向Agent提供统一工具目录,并在调用前执行租户校验、工具白名单、风险审批、参数脱敏、超时和审计。文章给出核心数据模型、路由代码和生产
用Spring Boot搭建AI工具执行网关:白名单、审批、幂等与审计完整实战
直接把订单、退款、邮件、文件删除等业务方法暴露给大模型,会把模型的不确定性带入真实业务系统。更稳妥的做法是建立独立工具执行网关:模型只能提出工具名称和参数,网关负责身份校验、工具白名单、JSON Schema验证、风险分级、人工确认、幂等执行、结果脱敏和审计。本文使用Spring Boot实现一个可运行的轻量级工具网关,并给出ToolDefinition、PolicyEngine、Approval
用Spring Boot+PostgreSQL搭建可审计的Chat Memory服务
Spring AI内置Chat Memory适合维护模型上下文,但企业系统还需要完整聊天记录、会话所有权、消息状态、审计日志和删除策略。本文使用Spring Boot、PostgreSQL与Spring AI 2.0设计一个双层存储方案:`ChatMemoryRepository`负责模型短期上下文,业务表负责完整Chat History;同时实现会话创建、所有权校验、消息写入、Memory调用和