{
title: "浪潮单柜运行4万Agent,多模型协同成AI新基建",
summary: "AI基础设施正从支撑大模型推理转向海量智能体规模化运行。浪潮信息发布业界首款CPU原生液冷整机柜服务器,单柜可支撑4万+Agent协同运行,是此前方案的40倍。同时推出多模融合API,让多个模型协同完成任务。IDC预测2025年中国AI Agent企业级市场规模约190亿元,2025-2028年复合增长率超110%。",
content: "AI基础设施的核心任务正在发生根本性转变。过去一年,业界主要关注大模型的推理效率,而现在,支撑海量智能体的规模化运行与高质量Token的持续生产,已成为新的主战场。据IDC数据,2025年中国AI Agent企业级市场规模约190亿元,预计2025至2028年复合增长率超过110%。Gartner更预测,2026年将有40%的企业应用集成任务型AI Agent。这场变革对算力基础设施提出了完全不同的要求,从单次推理转向任务拆解、工具调用、多轮协作和持续运行。\n\n浪潮信息在2026开放计算大会上,针对两个关键能力缺口给出了产品方案。首先是Agent的规模化运行,传统问答模式下大模型推理依赖GPU,但Agent的任务拆解、工具调用等整型运算和逻辑推理,需要CPU承担更多职责。浪潮信息发布的业界首款CPU原生液冷整机柜服务器,单柜最大支持384颗CPU处理器,可支撑4万+个Agent协同运行,规模是今年4月发布的“企千虾”方案的40倍。该机柜采用OCM架构,兼容不同代际和架构的处理器,无需为每代新芯片重新设计系统,研发周期大幅压缩。\n\n随着机柜功率攀升至300千瓦甚至兆瓦级,散热成为关键瓶颈。浪潮信息提出“原生液冷”理念,颠覆传统风液混合方案,对内存、网卡、光模块、SSD等所有发热部件一并纳入液冷散热体系。通过将算力单元做成2U超薄形态,每个节点塞进16颗CPU,并用整块冷板统一承接散热,实现无线缆设计,支持热维护,整机柜运维效率提升100%以上。\n\n为了让Agent更聪明,浪潮信息在元脑企智EPAI平台上线了多模融合API,并发布元脑SD200超节点AI服务器企业版。多模融合将同一任务同时分发给多个候选模型,各自独立生成答案,再由评审融合模型比较共识、分歧和遗漏,最终拼出统一输出。这种多模型协同的方式,解决了单一模型能力偏科的问题,让Agent在复杂任务中表现更佳。未来,随着Agent数量爆发式增长,算力基础设施的多元协同与液冷创新,将成为企业智能化转型的关键底座。"}