AMD于7月23日在旧金山举行的“Advancing AI 2026”活动上发布机架级AI基础设施Helios,并宣布该方案已进入量产阶段。
Helios将AMD Instinct MI455X GPU、第六代AMD EPYC服务器CPU、AMD ROCm软件栈以及AMD Pensando网络整合为统一的机架级平台,面向大规模AI训练与推理场景。根据AMD披露的数据,Helios单机架最高可提供2.9 Exaflops FP4峰值算力、31TB HBM4容量以及1.7PB/s内存带宽。FP4是一种面向AI计算的4位浮点格式,可在较低精度下提升处理速度和能效。
AMD表示,与竞品主流方案相比,Helios的峰值FP4性能提升15%,HBM容量提升50%,HBM带宽提升6%,scale-out带宽提升50%。公司同时称,Helios的单机架Token处理成本最多可较竞品降低30%。
在扩展能力方面,Helios可从单机架扩展至吉瓦级AI集群。单机架最多可部署18个4-GPU计算托盘,总计72块GPU。网络部分由AMD Pensando Vulcano 800 AI NIC提供支持,以满足分布式推理和大模型训练所需的高带宽、低时延互连需求。
该方案采用开放式架构,支持基于UALink over Ethernet的scale-up,以及基于Ultra Ethernet Consortium标准的scale-out。
AMD称,Meta、OpenAI、Anthropic和Microsoft等主要AI企业计划采用Helios建设吉瓦级AI基础设施。AMD AI业务高级副总裁Vamsi Boppana表示,Helios将领先算力、高性能网络和开放软件整合为统一的机架级平台,可为客户在大规模推理、前沿模型训练以及下一代AI基础设施建设方面提供更高灵活性。