(AI云资讯消息)
目前,Anthropic从多家公司采购芯片,包括 NVIDIA、Google和Amazon。凭借这三家供应商,Anthropic能够持续运营其AI基础设施,无需过多担心依赖单一芯片制造商常会带来的种种问题。但随着AI领域算力需求日益加剧,许多AI企业如今正考虑投资研发适合自身需求的内部芯片。
根据最近的报道,据称Anthropic正与一家名为Fractile的英国初创公司进行早期洽谈。Fractile因其名为内存计算融合架构的新技术,正成为AI领域的一个亮点。
该架构通过减少向DRAM搬运的数据量、降低对片外内存的依赖,并在芯片内部完成所有数据的流转处理来实现这一效果。为此,该公司设计了自有的SRAM技术,与NVIDIA的Groq LPU或Groq 3 LPX方案有相似之处。
英伟达收购Groq之后,得以将最新的LPU整合到其即将推出的Vera Rubin生态系统中。这类芯片作为AI推理加速器,其实现方式就是内置大量SRAM,并借助超高带宽来支持横向扩展与纵向扩展。
正因如此,英伟达自己也将Groq 3 LPU定位为推理加速器,它集成了500 MB的SRAM、150 TB/s的SRAM带宽和2.5 TB/s的扩展带宽。这些LPU封装在Groq 3 LPX机架中,每个机架搭载256个LPU,并配备高达128 GB的SRAM,以实现低延迟处理。
Fractile的解决方案与此类似,不过该公司声称,与英伟达的Groq方案相比,其架构目标是实现AI推理速度100倍的提升,同时将成本降为十分之一。参与该项目的Fractile团队成员来自英伟达、Graphcore和Imagination Technologies等大型公司。
这些数字确实非常可观,不过Fractile公司目前尚未设计出任何测试芯片,因此这些早期洽谈有可能启动Anthropic的内部芯片研发进程。Anthropic仍然高度依赖外部芯片制造商,目前已与博通签署了千兆瓦级合作协议,而且有报道称,其算力版图上很快将新增第四家供应商AMD。
Anthropic看中英国初创公司融合技术,以仅英伟达Groq十分之一的成本,实现百倍速度的AI推理
AI云资讯
26天前
5
0
本文由 Zyentor(智元界) 原创发布,转载请注明出处。
欢迎在 技术论坛 讨论本文相关内容