智元界
智元界 Zyentor AI 开发者社区
🔎
登录 注册
Jalapeño推理芯片:别只看3.6倍低延迟

Jalapeño推理芯片:别只看3.6倍低延迟

OpenAI 今天公布 Jalapeño 首批公开测试结果。它是 OpenAI 第一款自研推理芯片,测试覆盖 GPT‑OSS 120B、DeepSeek R1 670B 和 Kimi K2.5 1T。官方给出的核心结果是:

84 18 0 21小时前
Ray 2.58沙箱:Agent代码别再直接跑容器

Ray 2.58沙箱:Agent代码别再直接跑容器

让 Coding Agent 生成一段 Python,然后直接:

61 9 0 21小时前
Raspberry Pi 5 上跑本地 Agent 已经不是玩具:Gemma 4 E2B 9 token/s、峰值内存 1432MB,真正有意思的是 CPU/GPU 分工

Raspberry Pi 5 上跑本地 Agent 已经不是玩具:Gemma 4 E2B 9 token/s、峰值内存 1432MB,真正有意思的是 CPU/GPU 分工

Google 最近公开了一套 Raspberry Pi 5 上的 Edge AI 实现。

417 65 0 5天前
GPT-5.6 Sol Ultra 一小时证明 50 年数学猜想——子智能体并行推理架构深度解析

GPT-5.6 Sol Ultra 一小时证明 50 年数学猜想——子智能体并行推理架构深度解析

GPT-5.6 Sol Ultra用64个并行子智能体不到1小时独立证明了图论循环双覆盖猜想。LLM首次独立解决维基百科未解决数学问题。深度拆解子智能体架构、并行推理机制。成本仅275-485美元。

2719 366 5 2026-07-12
AI 智能体商业落地实战:从技术原型到生产部署的完整路径

AI 智能体商业落地实战:从技术原型到生产部署的完整路径

AI Agent从Demo到生产的完整指南:任务原子化拆分、模型路由+缓存+Prompt精简成本降99%、人机协作三级决策、企业集成架构。结合首钢秒级审核、京东2700降到10元、CSDN预判99%代码AI生成。

2580 362 10 2026-07-11
AI 端侧部署实战:模型量化、压缩与本地推理完整指南

AI 端侧部署实战:模型量化、压缩与本地推理完整指南

把大模型部署到手机和边缘设备:模型量化原理、GPTQ/AWQ/GGUF三方案对比、4-bit压缩实测精度损失、Ollama本地推理完整流程、从54GB压到4GB。附量化前后性能对比。

2607 385 4 2026-07-10
微软砸 25 亿成立 AI 部署公司,阿里同日封禁 Claude Code——AI 竞争进入落地为王阶段

微软砸 25 亿成立 AI 部署公司,阿里同日封禁 Claude Code——AI 竞争进入落地为王阶段

7月5日微软成立 Frontier Company 投入 25 亿美元专攻企业 AI 部署。阿里宣布 7 月 10 日全面禁用 Claude Code。AI 竞争从模型转向落地。

2514 359 3 2026-07-05
AI 模型部署从入门到生产 —— ONNX 转换、TensorRT 加速、推理服务搭建

AI 模型部署从入门到生产 —— ONNX 转换、TensorRT 加速、推理服务搭建

完整讲解 AI 模型从训练完成到生产部署的全流程:模型导出与格式转换(ONNX/TensorRT)、推理优化(FP16/INT8 量化)、推理服务框架选型(Triton/vLLM/SGLang)、性能压测与监控。

2987 430 1 2026-05-28

精选推荐

1 ReAct、Plan-Execute-Review与状态图Agent怎么选? 1262 2 Agent Planner输出计划存在循环依赖?DAG校验与自动修复排查 1225 3 Human-in-the-Loop审批超时后任务丢失?等待状态与恢复令牌排查 1214 4 手搓生产级 AI Agent 系统(8):Planner、Executor与Reviewer闭环 1187 5 Reviewer为什么让Agent无限修改?接受阈值、最大轮次与差异检测排查 1166 6 Agent从Checkpoint恢复后为什么重复调用工具?步骤提交与副作用幂等排查 1131 7 用Python实现Planner-Executor-Reviewer状态机Agent 1078 8 手搓生产级 AI Agent 系统(9):Checkpoint、Human-in-the-Loop与断点恢复 1073 9 数据库Checkpoint、事件溯源与工作流引擎怎么选?Agent持久化指南 1070 10 用Spring Boot搭建Agent Checkpoint服务:保存、恢复、审批与重放 1066 11 并行Sub-Agent为什么让Token成本暴涨?并发、上下文复制与预算排查 1044 12 Supervisor、Handoff与Blackboard怎么选?多Agent协作模式指南 990 13 多Agent协作时为什么总是传递旧上下文?状态版本与消息边界排查 981 14 Code Interpreter临时文件为什么泄露到其他任务?工作目录与生命周期排查 978 15 手搓生产级 AI Agent 系统(10):多Agent协作、Supervisor与共享状态 971 16 手搓生产级 AI Agent 系统(11):代码与浏览器沙箱、安全执行与风险控制 965 17 Browser Agent遇到验证码和登录循环怎么办?会话、人工接管与站点策略排查 948 18 用Spring Boot实现预算感知的多Agent编排器 923 19 用Spring Boot搭建Agent安全执行网关:代码沙箱、浏览器会话与审计 912 20 容器沙箱、MicroVM与远程执行服务怎么选?Agent代码执行架构指南 894