{
title: "OpenAI联手博通推出首款AI芯片Jalapeño,九个月流片",
summary: "OpenAI与博通联合发布首款定制AI芯片Jalapeño,这是一款专为大语言模型推理任务设计的ASIC芯片。该芯片从设计到流片仅用时九个月,展现了高效的研发能力。Jalapeño将显著提升OpenAI模型的推理效率,降低运营成本,并减少对英伟达GPU的依赖。此举标志着OpenAI正式进军芯片领域,可能重塑AI硬件生态格局。",
content: "当地时间6月24日,OpenAI与博通联合发布了双方合作的首款定制芯片Jalapeño,这是一款专用集成电路(ASIC),专门针对大语言模型的推理任务而设计。这一发布标志着OpenAI正式从软件巨头迈入AI芯片领域,其战略意义不亚于当年谷歌推出TPU——在算力成本日益成为AI发展瓶颈的当下,OpenAI选择将核心能力延伸到硬件层,意图构建从模型到芯片的垂直整合优势。\n\nJalapeño芯片从设计到流片仅用时九个月,这在芯片行业堪称闪电速度。作为对比,传统ASIC芯片的开发周期通常为18到24个月。这一效率得益于OpenAI在模型架构上的深厚积累与博通在芯片设计领域的成熟经验。Jalapeño针对Transformer架构的推理计算进行了深度优化,特别是在矩阵乘法、注意力机制等核心运算上实现了硬件级加速。据透露,该芯片在能效比上相比通用GPU提升了数倍,预计将大幅降低GPT系列模型的推理成本。\n\n这一布局对AI行业的影响深远。此前,OpenAI高度依赖英伟达的GPU进行训练和推理,而Jalapeño的出现将帮助其摆脱对单一供应商的依赖,同时降低运营成本。考虑到OpenAI的API服务每天处理数十亿次请求,即便是单位成本的微小降低,累积起来也将是惊人的数字。此外,定制芯片的推出还可能影响AI芯片市场的竞争格局,给英伟达、AMD和英特尔等传统芯片巨头带来新的压力。\n\n展望未来,Jalapeño的发布只是一个开始。据业内人士分析,OpenAI很可能正在规划一系列针对不同模型规模的芯片产品,甚至可能推出训练专用芯片。对于AI从业者而言,这一趋势意味着模型部署的硬件成本将迎来新一轮下降,推理效率的提升也将使更复杂的应用场景成为可能。建议关注OpenAI后续的芯片路线图,以及其对API定价策略的潜在影响——这或许会改变整个AI应用生态的成本结构。",
"content_raw": "当地时间6月24日,OpenAI与博通联合发布了双方合作的首款定制芯片Jalapeño,这是一款专用集成电路(ASIC),专门针对大语言模型的推理任务而设计。这一发布标志着OpenAI正式从软件巨头迈入AI芯片领域,其战略意义不亚于当年谷歌推出TPU——在算力成本日益成为AI发展瓶颈的当下,OpenAI选择将核心能力延伸到硬件层,意图构建从模型到芯片的垂直整合优势。\n\nJalapeño芯片从设计到流片仅用时九个月,这在芯片行业堪称闪电速度。作为对比,传统ASIC芯片的开发周期通常为18到24个月。这一效率得益于OpenAI在模型架构上的深厚积累与博通在芯片设计领域的成熟经验。Jalapeño针对Transformer架构的推理计算进行了深度优化,特别是在矩阵乘法、注意力机制等核心运算上实现了硬件级加速。据透露,该芯片在能效比上相比通用GPU提升了数倍,预计将大幅降低GPT系列模型的推理成本。\n\n这一布局对AI行业的影响深远。此前,OpenAI高度依赖英伟达的GPU进行训练和推理,而Jalapeño的出现将帮助其摆脱对单一供应商的依赖,同时降低运营成本。考虑到OpenAI的API服务每天处理数十亿次请求,即便是单位成本的微小降低,累积起来也将是惊人的数字。此外,定制芯片的推出还可能影响AI芯片市场的竞争格局,给英伟达、AMD和英特尔等传统芯片巨头带来新的压力。\n\n展望未来,Jalapeño的发布只是一个开始。据业内人士分析,OpenAI很可能正在规划一系列针对不同模型规模的芯片产品,甚至可能推出训练专用芯片。对于AI从业者而言,这一趋势意味着模型部署的硬件成本将迎来新一轮下降,推理效率的提升也将使更复杂的应用场景成为可能。建议关注OpenAI后续的芯片路线图,以及其对API定价策略的潜在影响——这或许会改变整个AI应用生态的成本结构。"
}
刚刚,OpenAI发布首款AI芯片,九个月完成流片
AITNT
3小时前
3
0
本文由 Zyentor(智元界) 原创发布,转载请注明出处。
欢迎在 技术论坛 讨论本文相关内容