图片来源:AMD

AMD于7月23日在旧金山举行的“Advancing AI 2026”活动上发布机架级AI基础设施Helios,并宣布该方案已进入量产阶段。

Helios将AMD Instinct MI455X GPU、第六代AMD EPYC服务器CPU、AMD ROCm软件栈以及AMD Pensando网络整合为统一的机架级平台,面向大规模AI训练与推理场景。根据AMD披露的数据,Helios单机架最高可提供2.9 Exaflops FP4峰值算力、31TB HBM4容量以及1.7PB/s内存带宽。FP4是一种面向AI计算的4位浮点格式,可在较低精度下提升处理速度和能效。

AMD表示,与竞品主流方案相比,Helios的峰值FP4性能提升15%,HBM容量提升50%,HBM带宽提升6%,scale-out带宽提升50%。公司同时称,Helios的单机架Token处理成本最多可较竞品降低30%。

在扩展能力方面,Helios可从单机架扩展至吉瓦级AI集群。单机架最多可部署18个4-GPU计算托盘,总计72块GPU。网络部分由AMD Pensando Vulcano 800 AI NIC提供支持,以满足分布式推理和大模型训练所需的高带宽、低时延互连需求。

该方案采用开放式架构,支持基于UALink over Ethernet的scale-up,以及基于Ultra Ethernet Consortium标准的scale-out。

AMD称,Meta、OpenAI、Anthropic和Microsoft等主要AI企业计划采用Helios建设吉瓦级AI基础设施。AMD AI业务高级副总裁Vamsi Boppana表示,Helios将领先算力、高性能网络和开放软件整合为统一的机架级平台,可为客户在大规模推理、前沿模型训练以及下一代AI基础设施建设方面提供更高灵活性。

关键词

#AMD #Helios #Instinct MI455X #EPYC #ROCm #Pensando #HBM4 #机架级AI基础设施 #AI平台 #FP4
版权所有 © DigitalToday。未经授权禁止转载或传播。