Nvidia GPU架构(图片来源:Nvidia)

Nvidia正将高带宽内存(HBM)控制器转向自研。当地时间26日,Nvidia在官方博客宣布,下一代HBM技术“NVHBM”将纳入其芯片互连方案“NVLink Fusion”。

HBM是一种通过垂直堆叠DRAM以提升数据处理速度的内存技术。按照Nvidia的说法,NVHBM将由其制定统一规格和实现方案,再由主要内存合作伙伴完成验证并供货。

NVHBM的核心变化在于HBM控制器的位置调整。传统HBM架构中,负责内存控制的控制器位于计算芯片XPU Die上。NVHBM则将Nvidia设计的定制控制器直接集成到HBM基座Die中,也就是把原本位于计算Die上的控制逻辑移入HBM堆叠底座。

Nvidia表示,与HBM4E相比,这一设计可将内存带宽最高提升30%,同时把HBM功耗降低15%。此外,XPU计算Die最多可释放25%的面积,让更多芯片空间用于计算电路。上述性能数据目前均来自Nvidia,尚未见第三方验证结果。

通过统一规格,Nvidia希望让多家内存供应商能够提供相同标准的NVHBM产品。对于定制芯片厂商而言,这有助于减少针对不同内存供应商分别进行适配和验证的工作量。Nvidia称,这一架构有望缩短NVLink Fusion客户定制AI芯片的上市周期;在内存内部控制方式上,主导权也将更多掌握在Nvidia制定的规范之中,而非由各芯片设计方分别决定。

NVLink Fusion是一项将第三方厂商的XPU和CPU接入Nvidia机架级平台的技术方案。参与企业可使用NVLink芯粒、NVLink-C2C、NVLink交换机,以及MGX系统和机架,并获得从CPU合作伙伴、ASIC设计公司到系统制造商的生态支持。

Nvidia表示,NVHBM基于其未来将用于自家GPU的同一技术基础开发,后续也计划将该技术扩展至NVLink Fusion客户。公司称,随着AI Agent和万亿参数级任务日益普及,AI基础设施的性能已不再单纯取决于算力,而是需要将计算、内存、存储、网络和软件作为一个整体协同设计。

Annapurna Labs成为首批合作方之一

Amazon旗下半导体设计子公司Annapurna Labs将首次参与NVHBM合作。根据双方围绕NVLink Fusion展开的合作框架,该公司将同步推进NVHBM技术以及NVLink scale-up架构。Annapurna Labs副总裁Nafea Bshara表示,NVHBM为提升高带宽内存的性能与效率提供了一条新的架构路径,预计此次合作将有助于未来AWS基础设施设计。

Annapurna Labs还将从下一代自研芯片“Trainium4”开始支持NVLink Fusion,使Amazon自研芯片能够与Nvidia GPU在同一机架级架构下协同运行。此次合作也延续了AWS此前披露的NVLink Fusion支持计划。Nvidia表示,这一模式可让参与企业把更多资源集中在XPU研发上,同时在网络、机架系统和软件层面采用已验证的技术方案。

关键词

#Nvidia #NVHBM #HBM #HBM4E #NVLink Fusion #NVLink #GPU #XPU #Amazon Annapurna Labs #AWS
版权所有 © DigitalToday。未经授权禁止转载或传播。