NVIDIA、Rebellions与SK Telecom宣布合作,共同推进韩国主权AI基础设施建设。图片来源:各公司

NVIDIA 11月9日宣布,将与SK Telecom、Rebellions展开合作,基于“NVLink Fusion”共同推进韩国主权AI基础设施建设。根据合作内容,Rebellions的AI芯片将接入NVIDIA开放式机架级平台,并结合SK Telecom在AI数据中心、模型和服务方面的能力推进落地。

按照计划,Rebellions将把用于AI计算的神经网络处理器(NPU)“Rebel R200”通过“NVLink Fusion”接入NVIDIA平台。NVIDIA表示,“NVLink Fusion”可将其高带宽、低时延的Scale-up互连能力开放给外部定制芯片。机架内的R200将通过“NVLink”实现互连,相关系统将基于“MGX”架构开发。

Rebel R200目前仍在开发中,面向具备数万亿参数的混合专家(MoE)等前沿模型推理场景,目标是实现低时延和高效率推理。相关系统建成后将部署于SK Telecom的AI数据中心。NVIDIA称,借助MGX架构,GPU与NPU系统可共享机架空间、供电和散热设计。Rebellions也将利用MGX生态中的ODM及零部件供应链。Rebellions Rebel R200系统预计自2028年起部署。

此外,三方还将联合开发分布式推理方案,针对AI生成响应的不同阶段分配不同处理器。其中,输入处理阶段的Prefill由NVIDIA GPU负责,输出生成阶段的Decode则由Rebellions NPU承担,以提升系统吞吐量和能效。SK Telecom计划将这套基础设施与自研模型“A.X K2”以及政府“全民AI”项目中的面向公众服务相结合。

Rebellions代表Park Sung-hyun表示,此次合作是韩国AI芯片和模型与全球技术体系结合的重要节点,也将成为扩展韩国主权AI生态的重要转折点。并表示,Rebellions将依托已验证的自主技术实力,与NVIDIA和SK Telecom共同设计下一代AI基础设施,推动韩国技术成长为驱动全球AI发展的关键力量。

SK Telecom代表Jeong Jae-heon(CEO)表示,此次合作将全球AI基础设施技术与韩国本土AI芯片相结合,对于验证下一代主权AI基础设施的潜力具有重要意义。SK Telecom将把AI数据中心、自研AI模型(包括“A.X K2”)以及通过“全民AI”项目开发的面向公众AI服务串联起来,增强全栈主权AI竞争力,并推动韩国AI生态发展。

NVIDIA创始人兼CEO Jensen Huang表示,韩国拥有在AI领域迈向全球领导地位所需的人才、技术和产业能力。通过NVLink Fusion,韩国半导体企业可将定制ASIC连接至NVIDIA AI工厂平台,使其自研处理器能够与NVIDIA算力协同运行AI工作负载。他还表示,NVIDIA正与韩国科学技术信息通信部(MSIT)、Rebellions和SK Telecom共同建设计算基础设施,以支持韩国发展自主智能并推动新一轮产业变革。

关键词

#NVIDIA #SK Telecom #Rebellions #NVLink Fusion #主权AI基础设施 #AI数据中心 #NPU #MGX架构 #分布式推理 #A.X K2
版权所有 © DigitalToday。未经授权禁止转载或传播。