{
title: "洪源:异构计算是AI算力基础设施的未来方向",
summary: "太初元碁首席产品官洪源在AIGC2026上指出,Token经济加速到来,预计2030年全球Token调用量将增长212倍,算力需求年增60%,其中90%以上为智能算力。他强调,国产AI算力需解决大规模集群服务能力、计算效率和生态易用性三大关键问题,异构计算将成为未来基础设施的重要方向。",
content: "在Token经济加速到来的背景下,AI算力正从模型训练的基础资源升级为贯穿全链路的新型基础设施。太初元碁首席产品官洪源在量子位主办的AIGC2026峰会上指出,随着Agentic AI、代码助手等应用从Demo走向真实任务,Token已成为AI时代最核心的资源消耗单位。据OpenRouter预测,从2025年到2030年,全球Token调用量将增长212倍,算力需求以每年60%的速度增长,其中90%以上将是智能算力。这意味着国产AI算力面临重大机遇,但真正的突破点不只在单点性能,更在大规模集群服务能力、计算效率和生态易用性。\n\n洪源认为,当前大模型训练和推理对集群规模的要求越来越高,动辄万卡甚至更大规模。在这样的大规模系统中,如何保证训练效率、系统稳定性、成本控制和可靠性,是算力企业必须解决的首要问题。以万卡集群为例,单点故障可能导致数小时的训练中断,对互联、调度和运维能力提出了极高要求。同时,Agent任务执行过程中,GPU真正用于计算的时间可能只占整体的10%左右,大量时间消耗在CPU调度、通信和数据处理等环节。这凸显了异构计算的重要性——未来AI算力系统需要更好地发挥CPU和GPU等不同计算单元的协同效率,降低等待和通信成本。\n\n生态问题同样是国产算力发展的关键瓶颈。洪源强调,算力厂商需要从硬件、互联、软件、调度到运维全链条提升系统能力,向上兼容框架、模型与应用。目前,国产算力在单点性能上已有显著突破,但生态易用性仍与国际主流存在差距。例如,主流大模型的适配和优化需要持续投入,而行业应用的落地更依赖于成熟的工具链和开发者社区。随着国产模型调用量持续提升,算力厂商必须解决这些生态短板,才能真正支撑起高频、复杂、大规模的AI应用需求。\n\n展望未来,洪源将AI算力比作Token经济中的制氧机——它将持续支撑模型、应用和行业场景的运行。从C端应用到B端行业,办公、代码、医疗、教育、能源、电力等领域都在加速引入AI能力,算力的效率提升将进一步释放需求,形成正向循环。对于AI从业者和爱好者而言,关注异构计算、大规模集群服务和生态建设,将是把握下一阶段技术趋势的关键。国产AI算力正站在从单点突破走向系统创新的转折点上,这需要产业界共同推动技术协同和生态完善。"
}
太初元碁洪源:异构计算能力将成为未来AI算力基础设施的重要方向|AIGC2026
AITNT
10天前
10
9
本文由 Zyentor(智元界) 原创发布,转载请注明出处。
欢迎在 技术论坛 讨论本文相关内容