智元界
智元界 Zyentor AI 开发者社区
🔎
登录 注册
用户取消AI流式输出后,模型为什么还在继续生成?前端Abort、Reactor取消与上游计费排查

用户取消AI流式输出后,模型为什么还在继续生成?前端Abort、Reactor取消与上游计费排查

前端点击“停止生成”后,页面虽然不再显示内容,但后台日志、Token统计或模型控制台仍显示请求继续执行。这是因为停止前端渲染、关闭HTTP连接、取消Reactor订阅和通知模型Provider停止生成是四个不同层次。本文解释取消信号如何沿前端、网关、Spring WebFlux和模型SDK传播,并给出任务状态、`doOnCancel`、幂等关闭、超时和计费监控的完整实现思路。

2885 385 5 2026-07-27
用Spring Boot搭建统一AI流式网关:SSE事件、模型路由、取消与审计

用Spring Boot搭建统一AI流式网关:SSE事件、模型路由、取消与审计

企业同时接入DeepSeek、OpenAI、Qwen或本地模型后,如果每个业务系统直接对接Provider,很快会出现流式协议不一致、错误码分散、取消无效、Token统计缺失和模型切换困难。本文实现一个轻量级Spring Boot AI流式网关,统一请求协议、SSE事件、模型路由、任务状态、取消接口、日志审计与Provider适配,并说明如何避免网关成为新的单点瓶颈。

2956 392 5 2026-07-27
Spring AI企业级应用实战(3):流式输出、SSE、背压、取消与异常恢复

Spring AI企业级应用实战(3):流式输出、SSE、背压、取消与异常恢复

上一篇完成了ChatClient、Advisor与Prompt Template统一调用层。本篇继续构建生产级流式能力:使用Spring WebFlux和Spring AI返回结构化SSE事件,实现首Token统计、Token合并、背压保护、用户取消、心跳、超时、部分结果保存、错误事件和Nginx部署配置。文章给出完整的请求模型、任务状态、Service、Controller与前端读取代码,解决“

2810 387 2 2026-07-27
OpenAI API新增组织与项目硬支出上限:达到月度额度后为什么会返回429?

OpenAI API新增组织与项目硬支出上限:达到月度额度后为什么会返回429?

# OpenAI API新增组织与项目硬支出上限:达到月度额度后为什么会返回429? ## 文章摘要 OpenAI于2026年7月22日在API平台新增组织级和项目级硬支出上限。管理员可以设置月度费用封顶值,当平台记录的支出达到适用上限后,受影响的API请求会返回HTTP 429和`insufficient_quota`错误。它与普通速率限制、消费提醒以及平台核准的Usage Limit并不是

2901 398 3 2026-07-24
RAG文档更新后仍然检索到旧内容?增量索引、版本字段与缓存完整排查

RAG文档更新后仍然检索到旧内容?增量索引、版本字段与缓存完整排查

# RAG文档更新后仍然检索到旧内容?增量索引、版本字段与缓存完整排查 ## 文章摘要 企业RAG知识库更新制度、产品资料或合同后,经常出现“后台已经上传新版本,问答却仍引用旧内容”的问题。根因可能来自旧向量没有删除、文档ID变化、增量任务失败、检索过滤缺失、缓存未失效,或者新旧版本同时处于有效状态。本文提供从源文件、解析结果、Chunk、向量库、缓存到生成上下文的完整排查路径,并给出安全的版

2738 392 5 2026-07-24
RAG知识库更新选全量重建、增量索引还是CDC?三种方案完整选型

RAG知识库更新选全量重建、增量索引还是CDC?三种方案完整选型

# RAG知识库更新选全量重建、增量索引还是CDC?三种方案完整选型 ## 文章摘要 RAG知识库上线后,文档、商品、制度、工单和数据库数据都会持续变化。全量重建实现简单但成本高,增量索引效率更高但版本与删除治理复杂,CDC可以接近实时同步,却会引入事件顺序、幂等、事务和回放问题。本文从数据规模、更新频率、一致性、成本、恢复能力和实施复杂度出发,比较三种更新架构,并给出企业项目的组合选型建议。

2918 377 1 2026-07-24
Qdrant 1.18.3发布:分片键重分片查询错误修复,哪些集群应该升级?

Qdrant 1.18.3发布:分片键重分片查询错误修复,哪些集群应该升级?

# Qdrant 1.18.3发布:分片键重分片查询错误修复,哪些集群应该升级? ## 文章摘要 Qdrant 1.18.3于2026年7月17日发布,本次版本只包含一项Bug修复:解决使用Shard Key进行重分片时可能出现的查询错误。更新内容虽然很少,但它影响的是多租户、大规模Collection和在线扩缩容场景。本文解释Shard Key与Resharding的关系、故障可能出现在哪些

2934 410 3 2026-07-24
RAG文档删除后为什么还能被搜到?向量残留、缓存、备份与删除传播治理

RAG文档删除后为什么还能被搜到?向量残留、缓存、备份与删除传播治理

# RAG文档删除后为什么还能被搜到?向量残留、缓存、备份与删除传播治理 ## 文章摘要 企业知识库删除文件后,用户仍可能从RAG问答中看到原内容。这不仅是数据一致性问题,还可能造成隐私、合同、离职员工资料和客户数据继续暴露。根因包括只删除业务表、向量Point残留、语义缓存未清理、历史会话继续引用、异步删除失败、备份和副本恢复旧数据等。本文给出删除链路排查方法,并设计可审计、可重试、可验证的

2755 398 4 2026-07-24
用Spring AI+Qdrant实现可恢复的RAG增量索引服务

用Spring AI+Qdrant实现可恢复的RAG增量索引服务

# 用Spring AI+Qdrant实现可恢复的RAG增量索引服务 ## 文章摘要 本文实现一个面向企业知识库的增量索引服务:通过文档Checksum和Chunk Hash识别变化,只对新增或修改片段生成Embedding;使用稳定Point ID写入Qdrant;通过版本状态实现新旧索引原子切换;失败任务可重试,删除操作可幂等执行。示例使用Spring Boot、Spring AI和Qdr

2930 418 4 2026-07-24
企业级RAG性能优化与质量治理(4):增量更新、版本治理、引用溯源与线上监控

企业级RAG性能优化与质量治理(4):增量更新、版本治理、引用溯源与线上监控

# 企业级RAG性能优化与质量治理(4):增量更新、版本治理、引用溯源与线上监控 ## 文章摘要 企业RAG进入长期运行阶段后,真正困难的工作从“把文档放进向量库”转向知识生命周期治理:如何只更新变化内容、如何确保新旧版本不会同时生效、如何让每个答案追溯到具体文档与Chunk、如何发现线上召回过期内容,以及如何在更新失败时安全回滚。本文从数据模型、版本状态机、增量索引、删除传播、引用链路、缓存

2954 417 2 2026-07-24
GPT-5.6显式缓存断点怎么用?RAG长Prompt成本优化与失效策略

GPT-5.6显式缓存断点怎么用?RAG长Prompt成本优化与失效策略

# GPT-5.6显式缓存断点怎么用?RAG长Prompt成本优化与失效策略 ## 文章摘要 GPT-5.6在API中引入更可预测的Prompt缓存机制,包括显式缓存断点和至少30分钟的缓存生命周期。对于RAG、Agent和企业知识助手,这意味着稳定的System Prompt、工具定义、输出Schema和公共知识上下文可以复用,从而减少重复计算和输入成本。但缓存并不是把整个请求永久保存,动态

2783 395 3 2026-07-23
PDF导入RAG后乱码、空白或顺序错乱怎么办?文档解析完整排查

PDF导入RAG后乱码、空白或顺序错乱怎么办?文档解析完整排查

# PDF导入RAG后乱码、空白或顺序错乱怎么办?文档解析完整排查 ## 文章摘要 PDF导入知识库后出现乱码、空白、文字顺序错乱,是企业RAG项目最常见的数据源故障。根因可能是扫描件没有文本层、字体使用自定义编码、双栏版式阅读顺序错误、表格被拆散、OCR语言配置不正确,或者解析结果未经质量校验就直接分块。本文给出从PDF类型识别、文本层检测、字体与编码、OCR、版面恢复到入库质量门禁的完整排

2644 387 3 2026-07-23
固定长度、递归字符、语义分块和结构分块怎么选?RAG Chunk策略对比

固定长度、递归字符、语义分块和结构分块怎么选?RAG Chunk策略对比

# 固定长度、递归字符、语义分块和结构分块怎么选?RAG Chunk策略对比 ## 文章摘要 Chunk策略决定了RAG系统能够检索到什么、丢失什么,以及大模型最终看到多少完整上下文。固定长度分块实现简单但容易切断条款;递归字符分块通用性强;语义分块边界自然但成本较高;结构分块最适合制度、合同和技术文档,却依赖可靠的文档解析。本文从边界质量、实现成本、检索效果、元数据和适用文档等维度对比四种策

2694 389 2 2026-07-23
Spring AI 2.0 RAG模块升级:依赖改名、Advisor架构与迁移注意事项

Spring AI 2.0 RAG模块升级:依赖改名、Advisor架构与迁移注意事项

# Spring AI 2.0 RAG模块升级:依赖改名、Advisor架构与迁移注意事项 ## 文章摘要 Spring AI 2.0对RAG相关模块进行了重新组织:原来的 `spring-ai-advisors-vector-store` 已改名为 `spring-ai-vector-store-advisor`,常用RAG流程继续通过QuestionAnswerAdvisor接入ChatC

2856 398 0 2026-07-23
PDF表格在RAG中被拆散怎么办?表头继承、行分块与结构化检索方案

PDF表格在RAG中被拆散怎么办?表头继承、行分块与结构化检索方案

# PDF表格在RAG中被拆散怎么办?表头继承、行分块与结构化检索方案 ## 文章摘要 PDF表格进入RAG后,最常见的问题是表头与数据行分离、跨页表格断裂、合并单元格丢失,以及数字脱离业务含义。把表格简单转成纯文本再按Token切分,会让“100”“20%”“A产品”等字段失去对应关系。本文介绍表格检测、Markdown与JSON双表示、表头继承、按行分块、跨页合并、结构化字段检索和质量校验

2912 406 6 2026-07-23
用Docling+Spring AI搭建PDF解析与RAG入库管道:表格、Metadata和质量门禁

用Docling+Spring AI搭建PDF解析与RAG入库管道:表格、Metadata和质量门禁

# 用Docling+Spring AI搭建PDF解析与RAG入库管道:表格、Metadata和质量门禁 ## 文章摘要 Spring AI提供DocumentReader、DocumentTransformer和VectorStore等ETL能力,但复杂PDF的版面、表格和OCR往往需要更专业的解析工具。Docling可以将PDF解析成包含页面、标题、段落、表格和图片信息的结构化文档。本文通

2849 397 2 2026-07-23
企业级RAG性能优化与质量治理(2):文档解析与Chunk工程决定知识库上限

企业级RAG性能优化与质量治理(2):文档解析与Chunk工程决定知识库上限

# 企业级RAG性能优化与质量治理(2):文档解析与Chunk工程决定知识库上限 ## 文章摘要 很多团队把RAG效果差归因于Embedding模型、向量数据库或大模型,却忽略了最前面的文档解析与Chunk工程。PDF乱码、表格丢失、标题层级消失、旧版本混入和固定长度粗暴切分,会在数据进入向量库前就破坏知识。本文建立一套生产级文档管道:文件识别、结构解析、清洗、质量门禁、结构分块、父子Chun

2898 423 3 2026-07-23
Milvus 2.6.20发布:查询调度、过滤性能与流式恢复升级分析

Milvus 2.6.20发布:查询调度、过滤性能与流式恢复升级分析

# Milvus 2.6.20发布:查询调度、过滤性能与流式恢复升级分析 ## 文章摘要 Milvus 2.6.20于2026年7月14日发布,重点改善查询调度与批处理、索引加载、过滤执行、流式重平衡和可观测性,同时修复JSON路径过滤、流式写入恢复、文本索引和GPU_CAGRA等问题。本文不只罗列更新项,而是结合企业RAG场景分析这些变化会影响哪些线上问题、哪些项目值得升级,以及升级前应如何

2910 423 3 2026-07-23
RAG加上Metadata过滤后完全搜不到结果?从字段类型到索引完整排查

RAG加上Metadata过滤后完全搜不到结果?从字段类型到索引完整排查

# RAG加上Metadata过滤后完全搜不到结果?从字段类型到索引完整排查 ## 文章摘要 企业RAG为了实现租户、部门、权限、版本和有效期控制,通常会在向量检索中加入Metadata过滤。很多项目却在加过滤后出现结果从几十条变成零条,关闭过滤又恢复正常。根因可能是字段未写入、类型不一致、布尔表达式错误、日期格式不同、过滤索引缺失、权限集合为空或过滤发生在错误阶段。本文提供一套可复用的排查顺

2846 411 2 2026-07-23
RRF、DBSF、加权融合与Cross-Encoder重排怎么选?RAG排序策略指南

RRF、DBSF、加权融合与Cross-Encoder重排怎么选?RAG排序策略指南

# RRF、DBSF、加权融合与Cross-Encoder重排怎么选?RAG排序策略指南 ## 文章摘要 企业RAG从单一向量检索升级到混合检索后,通常需要解决“多路结果如何合并”和“候选文档如何再次排序”两个问题。RRF、DBSF、加权融合和Cross-Encoder经常被放在一起比较,但它们解决的层次并不完全相同。本文从输入、计算成本、是否依赖分数标定、可解释性和适用场景出发,给出一套可执

3037 399 5 2026-07-23
上一页 1 2 3 ... 29 30 31 ... 36 37 38 下一页

精选推荐

1 手搓生产级 AI Agent 系统(29):MCP接入选型与架构梳理 202 2 vercel/ai:TypeScript 开发者如何理解 AI SDK 的工程化边界 179 3 AI编程工具形态选型指南:从代码助手到AI Agent闭环 168 4 不止是名词对比:从传统RAG瓶颈出发,判断Self-RAG、CRAG、GraphRAG、Agentic RAG该如何选型 165 5 DeepSeek API 持续 401:密钥加载与鉴权头配置排查 144 6 OpenAI新模型加持,Amp让Agent走出代码场景 131 7 GitHub Copilot本周更新:多账号、Agent沙箱与Claude Haiku 127 8 GitHub Copilot CLI 新增 /model 本地模型发现:离线与内网环境下的AI编程配置实践 126 9 vercel/ai 的 TypeScript AI 应用工具箱:Agent 与多模型接入可验证方向 118 10 AI编程工具怎么选:四类形态的适用场景与能力边界 81 11 手搓生产级 AI Agent 系统(28):MCP三层架构解析与集成选型 79 12 MCP传输方式怎么选:stdio、HTTP/SSE与WebSocket机制对比 77 13 从概念到可运行:AI Agent构建实战与工程问题排查 68 14 vercel/ai 源码拆解:Provider 抽象与 Agent 工具链 64 15 Agent记忆系统怎么设计?从短期上下文到长期记忆的工程落地方案 56 16 从工具清单到Loop工程闭环:AI编程选型与落地路径研究 55 17 MCP全流程实战:Server、Client与Host配置调试及选型 55 18 GitHub Copilot for JetBrains更新:默认模型与MCP服务器控制 51 19 手搓生产级 AI Agent 系统(33):Spring AI接入Spring Boot的常见配置问题与排错思路 50 20 DeepSeek 落地路径怎么选:本地部署、可视化界面、办公集成与 API 调用对比 50