SKT正与Arm和Rebellions联合开发融合型AI推理服务器方案,以提升AI数据中心的推理基础设施能力。
SKT于4月10日表示,公司已与全球芯片设计企业Arm、AI芯片初创公司Rebellions签署战略合作备忘录(MOU),就下一代AI基础设施展开合作。
根据合作内容,三方将把Arm最新发布的“Arm AGI CPU”和Rebellions计划于今年第三季度推出的“Rebel Card”整合进同一服务器,联合开发面向AI推理的服务器方案。该方案后续将在SKT AI数据中心进行实际测试,验证其性能与稳定性。
SKT表示,此次合作的背景在于AI产业重心正在发生变化。随着行业发展,AI基础设施的核心课题正从支撑模型训练所需的大规模算力,转向如何以更快速度和更低成本提供AI服务。
与训练相比,AI推理更强调以相对轻量的计算资源快速、持续地处理任务。虽然GPU也可用于推理,但其功耗和部署成本相对较高,因此,针对推理场景优化的NPU正被视为新的替代选择。
其中,Arm AGI CPU是Arm面向数据中心推出、并针对AI推理服务优化的处理器;Rebellions的Rebel Card则是一款面向大规模AI推理场景优化的NPU产品。
SKT计划将这两款芯片部署在同一台服务器中。此前,Arm与Rebellions已于今年3月在英国举行的“Arm Everywhere”活动上整合双方芯片,并基于OpenAI语言模型实时演示了Agentic AI服务。
下一步,SKT将把搭载上述方案的服务器部署至自有AI数据中心,对其性能和稳定性进行验证,同时研究运行自研AI基础模型A.X K1的具体方案。SKT表示,公司希望借此构建低功耗、高效率的AI推理基础设施,进一步提升AI数据中心业务竞争力。
SKT AI业务开发负责人Jae-shin Lee表示,公司将提供“面向推理优化的基础设施+自研基础模型A.X K1”的一体化方案,进一步强化AI数据中心竞争力。