智元界
智元界 Zyentor AI 开发者社区
🔎
登录 注册
Cloud Run单实例:长期Agent为什么不该硬套无状态服务

Cloud Run单实例:长期Agent为什么不该硬套无状态服务

我们搭 Zyentor 的行为引擎时踩过一个坑:最初把它当成普通 Serverless 部署,结果它每隔 3 分钟要跑一轮任务,服务一被缩到 0,下次冷启动要等十几秒,任务全挤在一起。

600 82 0 2026-08-28
Qwen3-Embedding上TPU:16K长上下文怎么稳住

Qwen3-Embedding上TPU:16K长上下文怎么稳住

Embedding 服务最容易被低估的性能问题,不是单条文本有多快。

614 77 0 2026-08-27
Jalapeño推理芯片:别只看3.6倍低延迟

Jalapeño推理芯片:别只看3.6倍低延迟

OpenAI 今天公布 Jalapeño 首批公开测试结果。它是 OpenAI 第一款自研推理芯片,测试覆盖 GPT‑OSS 120B、DeepSeek R1 670B 和 Kimi K2.5 1T。官方给出的核心结果是:

644 101 0 2026-08-26
Ray 2.58沙箱:Agent代码别再直接跑容器

Ray 2.58沙箱:Agent代码别再直接跑容器

让 Coding Agent 生成一段 Python,然后直接:

654 103 0 2026-08-26
Raspberry Pi 5 上跑本地 Agent 已经不是玩具:Gemma 4 E2B 9 token/s、峰值内存 1432MB,真正有意思的是 CPU/GPU 分工

Raspberry Pi 5 上跑本地 Agent 已经不是玩具:Gemma 4 E2B 9 token/s、峰值内存 1432MB,真正有意思的是 CPU/GPU 分工

Google 最近公开了一套 Raspberry Pi 5 上的 Edge AI 实现。

1084 153 0 2026-08-21
GPT-5.6 Sol Ultra 一小时证明 50 年数学猜想——子智能体并行推理架构深度解析

GPT-5.6 Sol Ultra 一小时证明 50 年数学猜想——子智能体并行推理架构深度解析

GPT-5.6 Sol Ultra用64个并行子智能体不到1小时独立证明了图论循环双覆盖猜想。LLM首次独立解决维基百科未解决数学问题。深度拆解子智能体架构、并行推理机制。成本仅275-485美元。

3211 400 5 2026-07-12
AI 智能体商业落地实战:从技术原型到生产部署的完整路径

AI 智能体商业落地实战:从技术原型到生产部署的完整路径

AI Agent从Demo到生产的完整指南:任务原子化拆分、模型路由+缓存+Prompt精简成本降99%、人机协作三级决策、企业集成架构。结合首钢秒级审核、京东2700降到10元、CSDN预判99%代码AI生成。

3074 400 10 2026-07-11
AI 端侧部署实战:模型量化、压缩与本地推理完整指南

AI 端侧部署实战:模型量化、压缩与本地推理完整指南

把大模型部署到手机和边缘设备:模型量化原理、GPTQ/AWQ/GGUF三方案对比、4-bit压缩实测精度损失、Ollama本地推理完整流程、从54GB压到4GB。附量化前后性能对比。

3208 424 4 2026-07-10
微软砸 25 亿成立 AI 部署公司,阿里同日封禁 Claude Code——AI 竞争进入落地为王阶段

微软砸 25 亿成立 AI 部署公司,阿里同日封禁 Claude Code——AI 竞争进入落地为王阶段

7月5日微软成立 Frontier Company 投入 25 亿美元专攻企业 AI 部署。阿里宣布 7 月 10 日全面禁用 Claude Code。AI 竞争从模型转向落地。

3068 407 3 2026-07-05
AI 模型部署从入门到生产 —— ONNX 转换、TensorRT 加速、推理服务搭建

AI 模型部署从入门到生产 —— ONNX 转换、TensorRT 加速、推理服务搭建

完整讲解 AI 模型从训练完成到生产部署的全流程:模型导出与格式转换(ONNX/TensorRT)、推理优化(FP16/INT8 量化)、推理服务框架选型(Triton/vLLM/SGLang)、性能压测与监控。

3540 475 1 2026-05-28

精选推荐

1 GPT-6全球上线:Intelligent UI交互范式与开发者接入路径 213 2 DeepSeek API 报 401:从密钥加载到请求头的排查路径 190 3 手搓生产级 AI Agent 系统(29):MCP接入选型与架构梳理 186 4 vercel/ai:TypeScript 开发者如何理解 AI SDK 的工程化边界 164 5 不止是名词对比:从传统RAG瓶颈出发,判断Self-RAG、CRAG、GraphRAG、Agentic RAG该如何选型 149 6 AI编程工具形态选型指南:从代码助手到AI Agent闭环 149 7 DeepSeek API 持续 401:密钥加载与鉴权头配置排查 126 8 GitHub Copilot CLI 新增 /model 本地模型发现:离线与内网环境下的AI编程配置实践 121 9 GitHub Copilot本周更新:多账号、Agent沙箱与Claude Haiku 111 10 OpenAI新模型加持,Amp让Agent走出代码场景 105 11 GitHub Stacked PR正式GA:小PR链式评审与合并落地指南 98 12 vercel/ai 的 TypeScript AI 应用工具箱:Agent 与多模型接入可验证方向 98 13 Anthropic OSS Scanner:免费AI漏洞扫描机制与中国开发者可借鉴的路径 94 14 手搓生产级 AI Agent 系统(28):MCP三层架构解析与集成选型 74 15 手搓生产级 AI Agent 系统(27):Gemini agent的企业集成机制与落地启示 71 16 MCP传输方式怎么选:stdio、HTTP/SSE与WebSocket机制对比 69 17 TypeScript AI 工具库如何支撑多前端框架应用 66 18 GitHub Copilot本地沙箱GA:Agent代码执行隔离机制与企业安全实践 65 19 RAG 向量库选型:本地开发与生产部署差在哪 64 20 从概念到可运行:AI Agent构建实战与工程问题排查 60