2026年过了一半,云,成为了AI产业里最确定的机会。
随着Agent开始走进各大企业“干活”,AI时代的算力服务,正在变成竞争最激烈的领域。存储、光模块、高速互联等AI基础设施板块持续走强。前几年一度被边缘化的CPU,又重新成为了市场关注的焦点。CoreWeave、Nebius等一批NeoCloud公司快速崛起。微软、谷歌、亚马逊等云巨头都在疯狂加码AI投资。

2026年上半年,前沿大模型竞赛还在持续。Agent时代来临之后,各大企业对于Agent进入真实业务,并能够稳定运行和规模部署的需求激增,token经费也在燃烧。
因此,对于提供算力服务的云厂商们来说,这是绝佳的机遇。但基础设施上,无论是AI Infra还是Agent Infra都需要技术快速跟上。可以说,整个云产业正在迎来过去二十年来最大的一次架构升级。
那么AI Agent时代的“云”,到底是朵什么样的云?当AI从“回答问题”走向“执行任务”,云的底层逻辑发生了什么改变?云厂商如何能真正打通最后一公里?这篇文章,我们就来看看,2026年上半年,AI时代的那朵“云”,正在发生着什么样的变革。

▍互联网云:按需获取计算资源
要理解“云”变了什么,我们先看看以前的云是什么样的。
21世纪初,Google、Facebook、百度、淘宝等一大批互联网公司快速崛起,用户数量爆发式增长。当时,互联网企业的业务增长速度,远远超过了IT基础设施的建设速度。
企业想要支撑业务上线和增长,通常需要自己采购服务器、建设机房、组建运维团队。为了应对未来几年的业务增长,很多公司甚至需要一次性投入大量资金购买设备。
但问题在于,没有人能够准确预测未来会有多少用户。买少了,业务爆发时服务器可能瞬间瘫痪。买多了,又意味着大量设备长期闲置,造成巨大的资源浪费。

2006年,亚马逊推出EC2(Elastic Compute Cloud,弹性计算云),第一次将计算资源变成了一种可以像电力一样按需获取、按需付费的服务,拉开了云计算时代的大幕。
随后,微软、谷歌以及百度、腾讯、阿里等科技巨头纷纷入场,云产业逐渐形成了一套完整的能力栈:IaaS(基础设施即服务)、PaaS(平台即服务)和SaaS(软件即服务)。
其中,IaaS负责提供服务器、存储和网络等基础资源。PaaS提供数据库、中间件和开发平台等能力,让用户不用操心底层硬件,专注于业务逻辑的开发。SaaS则直接向用户交付软件服务,直接订阅使用。
这个阶段云解决的核心问题,是让软件能够更低成本、更高效率地开发、部署和运行。云的服务对象是网站、社交平台和企业软件。人使用应用,而应用去消耗计算资源。

2022年底,ChatGPT的上线改变了市场对算力的需求。AI时代来了,而云产业,也迎来了新的时代:GPU云。
▍GPU云:服务模型训练
在AI时代,云产业的服务对象开始从应用转向模型。云的能力,开始围绕着AI模型的训练需求而变化。

郑然
百度杰出架构师、百度智能云技术委员会联席主席
大模型时代最开始,云更多关注的是训练和推理的效率。尤其是在模型高速发展的阶段,更多客户的重点,聚焦在怎样实现更高效的大规模模型训练。在那个阶段,云所承载的,更多是帮助模型训练业务实现更复杂的异构计算能力。
首先,云运行的硬件基座变了。
互联网时代,云厂商建设数据中心时采购的核心设备是CPU服务器,因为网站、数据库、CRM等传统应用,本质上都是CPU密集型工作负载。但大模型的训练和推理依赖大规模并行计算,CPU所擅长的串行逻辑处理并不适用,这让GPU从过去数据中心里的“辅助角色”,一跃变成了最核心的生产资料。

而这种底层算力的变化,直接指数级推高了基础设施的建设成本。从2023年开始,科技巨头们开启了史无前例的资本开支扩张。模型规模每向前迈进一步,背后都意味着更多GPU、更大的数据中心以及更高的电力消耗。
其次,平台层的逻辑也随之发生了变化。
互联网云时代的云平台主要提供数据库、容器平台、中间件和开发工具,帮助开发者更高效地构建软件。但当服务对象从应用变成了模型之后,开发者面临的新问题变成了模型的训练、部署、推理加速、向量数据库、RAG以及模型管理平台等等。
于是我们看到,Google升级Vertex AI集成生成式AI能力、微软推出了Azure AI Foundry、AWS推出了Bedrock,国内的百度智能云推出了千帆平台、阿里云推出了百炼平台等等。
这些新的AI平台,其实都是在尝试把模型训练、推理、微调和应用开发过程封装起来,让企业能够像使用云服务一样使用AI能力。而软件层面,则涌现出类似于ChatGPT、Copilot等一系列AI原生应用。
但进入到2025年下半年之后,随着一系列Agent产品、底层协议的出现,以及OpenClaw等开源框架的爆红,企业开始尝试把强大的模型能力转变成生产力。云也由此进入了一个全新的阶段:“Agent云”。
比如在具身智能领域,Agent的核心不仅是把大模型接到机器人上,更是要让Agent具备可靠的长程规划、Skill调用和记忆能力,并在真实物理环境中尽可能提高一次性成功率。

鞠笑竹
北京人形机器人创新中心大模型负责人
我们在2024年底就已经立项去做“慧思开物”具身智能体。
在整个“大脑”层面,我们很强调Agent的能力,包括长程任务、记忆检索,以及工具调用的准确性,都有非常高的要求。同时,相比互联网的智能体,我们的要求还要更高一些。第一,我们是强物理交互的,所以不能有幻觉,包括不能幻觉出机器人完全不具备的技能,也不能幻觉出环境中并不存在的物体。另外,现在很多Agent可以做反思、做重新规划,但人类对机器人的要求特别高。如果用户发现机器人长时间地执行一个任务,大家会很不耐烦。所以在这个时候,我们追求的是Pass 1的成功率,就是一定要一次性尽量把任务完成。
所以卖算力、卖Token、卖模型调用,相对来说都只是基础能力。真正困难和具有挑战的地方,是如何让成千上万个Agent稳定运行、协同工作,安全地接入企业系统,并持续创造价值。
那么,云的能力需要怎么变化呢?

过去几年,大模型的能力实现了跨越式的进步。模型能写代码、分析数据、撰写报告,甚至在很多专业测试中都超过了人类水平。
但具体到应用落地环节,企业却发现,拥有一个聪明的问答模型,并不等于拥有能真正干活的员工。最新研究数据显示,有90%的企业都表示Agent在实际工作中会掉链子。

这背后的原因是:Chatbot和Agent看上去都是在对话,但“快速给出答案”和“高质量完成任务”却是完全不同的技术问题。所以,Agent Infra上怎么能把这个链子给缝起来呢?
郑然
百度杰出架构师、百度智能云技术委员会联席主席
原来的Chatbot,用户的诉求,或者说用户对它的预期,有点像搜索一样:你提交一个问题,它需要很快速地回应。
而在Agent时代,核心目标不是快速地完成任务,而是高质量地完成任务,这会是完全不一样的预期。对底层系统来说,模型需要有更多轮的推理过程,整个上下文的长度和Chatbot阶段也完全不在一个数量级的水平。这就要求整个大规模分布式推理,包括像KV Cache这样的存储基础设施,能够更好地支持大规模分布式推理的高效执行。
也就是说,大模型阶段,云的优化目标是速度优先,如果AI回应得慢,用户体验就崩了。因此AI建设的目的就是让模型跑得更快、更便宜、更稳定。
但随着模型的“智商”已经基本够用、Agent开始进入真实生产环境之后,云便不再只是“卖算力”,而是要同时提供包括推理、存储、工具、记忆、沙箱、安全在内的完整Agent运行环境,解决的是智能体如何能够稳定运行、如何大规模部署的问题。
而在这个过程中,Agent需要一套全新的“操作系统”:Agent Harness。关注AI进展的小伙伴们对“Harness”这个词肯定不陌生,我们之前的内容也提到过。
我们可以把Harness理解为Agent的“运行底座”,它位于模型之上、应用之下,负责把模型真正组织起来,让Agent能够调用MCP、使用各种工具、管理长期记忆、运行工作流,并在一个安全、隔离的环境中稳定执行任务。
也就是说,未来决定Agent是否能真正走向落地的,就是Harness这一整套工程能力。而在这个系统中,存在着显著的“木桶效应”,每一个环节都不能有短板,木桶最短的那块板,决定了整个系统的能力。
郑然
百度杰出架构师、百度智能云技术委员会联席主席
为了完成任务,还需要给Harness一个执行的环境。它需要存储一些临时文件,需要调用工具,比如下载一些网页,需要用Skill,需要调用MCP。这些都需要一个环境,同时有工具、有记忆,再加上安全,帮助Agent的任务具备隔离性和稳定性。所以这背后,就对整个工程层面提出了完全不一样的要求。
我们理解Agent是一个系统化的工程,某种意义上说,它存在着一定的木桶效应。整个Agent Harness依赖很多配套的能力,需要一个系统化的优化,才能让Agent更高效地执行。某一方面出现短板,就容易造成Agent执行效果的下降。
所以从“一次推理给答案”到“多轮推理、调用工具、管理记忆、执行任务”,这背后对云提出了一整套全新的工程要求。
在这样的背景下,过去智能云三大层级的内涵和能力,也需要围绕着Agent的落地部署来重新架构:从IaaS、PaaS和SaaS,演变成一种“AI Infra+Agent Infra+智能体应用”的新架构。

郑然
百度杰出架构师、百度智能云技术委员会联席主席
IaaS层面,我们以AI Infra为代表,更多聚焦在训练、推理、集群调度、性能优化和算力基础设施方面,为整个模型提供坚实的运行底座。PaaS层面,我们把它延伸到了Agent Infra,让客户能够聚焦在智能体的开发运行、工具调试、上下文管理、工作流编排这样的功能上,帮助客户的Agent稳定地完成任务。同时从SaaS层来看,我们也在尝试做一些面向企业的Agent应用,帮助企业落地Agent的价值,包括客服、营销,以及一键式的任务流系统的尝试。
这种底层逻辑的变化,今年也直接传导到了整个产业链上。
Agent要部署落地,GPU之间需要高速大规模互联,KV Cache和Agent记忆需要超高带宽存储,推理过程需要超低延迟网络,向量数据库需要海量并发读写。于是,HBM(高带宽内存)、光通信模块、先进封装,每一个环节都变成了新的稀缺品。
与此同时,CPU也重新变得重要起来。模型推理由GPU完成,而任务调度、工具调用、跨系统协作等大量执行工作则重新回到了CPU。

因此,云的核心生产资料,从大模型时代单一的GPU,扩展到了“GPU+CPU+HBM+光互联”协同运转的新体系。于是我们也看到,这些板块的公司们今年的股价一路暴涨。
而在这一轮需求爆发中,还有一个难以忽视的部分,是今年NeoCloud(新云)的快速崛起。
一方面,NeoCloud能够更加灵活地提供包括GPU资源、裸金属服务等在内的基础设施能力,快速响应企业不同场景下的定制化需求。
另一方面,随着全球AI需求持续爆发,大量训练和推理订单开始向外溢出,也给CoreWeave、Nebius等“新云”带来了快速成长的机会。
Nebius自2024年10月复牌上市以来,股价已经涨了超过10倍,还在今年6月22日被正式纳入纳斯达克100指数。这说明无论是资本市场还是真正的产业需求,都在押注AI云业务。

不过,中国的情况有点不同。与美国已经形成比较明显的NeoCloud(新云)赛道不同,中国目前还没有发展出这一独立的产业类别。
这背后的主要原因可能在于,百度智能云、火山云、阿里云等超大云厂商正在快速向AI Native Cloud(AI原生云)演进,已经将AI算力、模型训练、推理服务等能力整合进自身平台。相比催生新的云厂商,中国更多是在现有云平台基础上直接完成AI升级。
随着AI工作负载的演进,云服务产业正在形成更加多元的能力分工。围绕算力、推理、Agent运行和企业落地等不同环节,不同类型的云厂商正基于各自的优势,构建自己的核心能力。