Arm发布面向代理式AI基础设施的数据中心CPU Arm AGI CPU。图片来源:Arm

Arm正式推出成立34年来首款量产硅芯片,标志着这家长期专注于IP授权的公司,开始将业务进一步延伸至芯片设计与销售。此举也反映出,随着代理式AI兴起,数据中心对CPU的需求正在出现新的结构性变化。与此同时,Arm与Samsung Electronics、SK hynix等韩国半导体企业之间的供应链协同空间,也随之扩大。

Arm于3月25日发布面向代理式AI基础设施的数据中心CPU Arm AGI CPU。该产品基于Arm Neoverse V3架构,单颗CPU最高集成136个核心。Arm表示,相较x86平台,其机架级性能可提升逾2倍,并支持单核可达6GB/s内存带宽和低于100ns的时延表现。

按散热方案不同,在风冷方案下,单机架最多可提供8160个核心;在液冷方案下,核心数可超过4.5万个,TDP为300W。Arm同时表示,该方案可为每个程序线程分配专用核心,从而保证持续负载下的性能表现稳定、可预期,不会因降频而影响输出。

Arm CEO Rene Haas表示,公司希望在高性能、高能效计算基础上,为合作伙伴提供更多选择,并推动全球代理式AI基础设施建设。随着此次进入量产芯片领域,Arm面向生态系统提供的选择也从单一IP授权,拓展至涵盖IP授权、计算子系统(CSS)以及自研硅芯片的“三层平台”。

Arm加码自研芯片的背后,是代理式AI推动数据中心CPU需求快速上升。Arm预计,传统AI数据中心每吉瓦约需要3000万个CPU核心;当工作负载转向代理式AI后,所需核心数将增至1.2亿个以上,较此前提高逾4倍。

Arm指出,代理式系统需要反复执行推理、规划和行动流程,带动token生成量较人类交互场景最高增加15倍。虽然token生成主要由加速器完成,但token的处理、协调和路由仍依赖CPU。由于代理式系统会全天候持续发出请求,CPU瓶颈将直接限制加速器利用率,进而成为基础设施层面的结构性问题。Rene Haas对此打比方称,“如果有人不断把土运上来,就必须有人持续把土清走,CPU扮演的就是这个角色。”他认为,代理式AI将进一步放大这一矛盾。

◆与Meta联合开发,合作延伸至后续路线图

Arm AGI CPU由Arm与Meta历时约两年半联合开发。Meta基础设施负责人Santosh Janardhan表示,团队此前一直在市场上寻找既能保持性能、又能提升每瓦核心数的合作伙伴,但现实情况往往是“要性能就会遇到功耗问题,压低功耗又难以满足性能要求”,而Arm是唯一可行的解决方案。Janardhan强调,这款CPU“不是Meta独有的芯片,而是面向整个生态的基础CPU”。

Meta方面透露,目前Prometheus集群计划在年内具备超过1GW的容量,Hyperion集群则计划在未来数年扩展至5GW。Meta还将把Arm AGI CPU与自研AI加速芯片MTIA配套部署,以提升大规模AI系统的编排效率。

双方表示,合作不会止步于这一代产品,而将延续至后续路线图。Janardhan称,挑战现有强势厂商有助于推动生态创新,后续产品的性能也将沿多个维度持续扩展。

◆Samsung Electronics、SK hynix受益内存与封装协同需求

从全球供应链看,韩国半导体企业的角色也因此进一步凸显。Samsung Electronics副会长Jun Young-hyun表示,性能提升越来越依赖逻辑、内存和先进封装等全链条的紧密协同优化;像Arm AGI CPU这样围绕特定目标设计的AI计算平台,有望在硅设计、内存集成以及先进工艺制造创新等方面,推动更紧密的合作。凭借晶圆代工、内存和封装的垂直整合能力,Samsung Electronics有望在Arm硅生态中进一步强化自身位置。

SK hynix CEO Kwak Noh-jung表示,随着AI数据中心持续演进,面向AI工作负载优化的平台必须依靠先进内存技术,才能满足新一代应用对容量和带宽的要求。他同时表示,期待与Arm的合作持续推进下一代AI基础设施发展。随着CPU核心数提升4倍,市场也预期内存带宽需求将同步上升,并带动HBM等高带宽内存需求扩大。

随着Arm业务进一步向量产芯片延伸,CPU设计与内存、封装协同优化的需求预计也将同步增长。Arm CSS推出约三至四年后,贡献的授权收入已接近20%,市场也在关注其量产芯片业务后续的增长速度。考虑到除Meta之外,主要ODM厂商也将参与生产,随着供应链覆盖范围扩大,韩国合作伙伴的受益前景也将更加明确。

关键词

#Arm #Arm AGI CPU #Neoverse V3 #代理式AI #数据中心CPU #Meta #MTIA #Samsung Electronics #SK hynix #先进封装
版权所有 © DigitalToday。未经授权禁止转载或传播。