Moreh首席执行官Kangwon Cho。图片来源:Moreh

基础设施软件公司Moreh首席执行官Kangwon Cho表示,主权AI的建设不能只停留在自主大模型层面,还必须同步补齐芯片、数据中心和基础设施软件能力。尤其是要推动国产AI芯片从推理进一步走向训练,并建立起可高效连接、调度多种芯片的软件体系,才能真正形成“全栈主权AI”。

Kangwon Cho近日在接受采访时表示,在美国和中国之外,韩国是少数接近具备主权AI建设条件的国家之一。但要把这一目标真正落地,除了模型和芯片之外,数据中心以及底层软件能力同样不可或缺。

Moreh将自身定位为基础设施软件企业,主要面向同一数据中心内多家厂商AI芯片的协同使用场景提供支持。该公司不仅支持Nvidia GPU,也可在AMD、Tenstorrent等芯片上运行AI模型,并通过优化算力任务分配降低数据中心运营成本。

对于韩国政府推动自主AI基础模型研发、扶持国产AI芯片的政策,Kangwon Cho给予积极评价。他表示,在美中之外,能同时在这两个领域聚集如此多企业参与竞争的国家并不多,这本身说明韩国已具备建设全栈主权AI的基础。

不过,他也强调,自主大模型研发依然是必选项,不能假设海外企业会长期开放最先进的模型能力。

在他看来,如果韩国本土企业能以3个月或6个月的时差持续跟进全球领先模型,将有助于维持竞争力。他提到,包括Samsung Electronics在内的韩国企业,一方面需要在自有数据中心内处理敏感产业数据,另一方面也需要使用接近全球第一梯队水平的AI模型。

他同时指出,技术自主不应只停留在模型层面,而应进一步延伸至供应链各环节,在现有芯片和基础设施软件能力之上持续演进,最终构建全栈主权AI体系。

在这一过程中,降低训练环节对海外芯片的依赖被视为关键课题。当前,韩国AI模型训练仍主要依赖Nvidia等海外GPU,而Rebellions、FuriosaAI等本土NPU设计公司,现阶段业务重点也更多集中在推理市场,而非大规模预训练。

Kangwon Cho认为,使用国产NPU进行AI模型训练在技术上并非不可实现。本土芯片企业之所以优先布局推理市场,更多是基于商业判断,即先切入需求更明确的市场,而不是因为技术上无法支持训练。

他说,从技术角度看,国产NPU并不存在“不能训练”的先天限制;但对初创公司而言,资源有限,往往只能优先聚焦需求更清晰、商业化路径更短的推理市场。

他进一步表示,训练与推理对基础设施的要求并不相同。大规模训练一旦失败,可能导致数月研发进度延误,因此企业通常更偏好经过充分验证的基础设施;而推理更关注单个令牌成本,因此更有动力引入多种芯片组合以优化成本和效率。

不过,要将国产NPU真正用于大规模训练,仍需持续推进技术开发和验证。训练过程中,多个芯片需要共同分担计算并频繁交换数据,因此决定效果的不仅是单芯片性能,芯片间通信能力以及分布式训练软件的成熟度同样关键。

Kangwon Cho表示,相比推理,训练软件需要解决的问题要复杂得多,但他预计,Nvidia CUDA生态的进入门槛将逐步下降。Moreh目前已经掌握面向Tenstorrent加速器的训练软件技术,但受制于当前市场需求,公司尚未将其推进至大规模训练验证阶段。

在Kangwon Cho看来,全栈主权AI的另一项关键任务,是构建能够将多种芯片整合为单一大规模算力系统的异构集群能力。随着模型规模持续扩大,越来越多芯片需要协同完成计算;如果数据传输和任务调度效率不足,整个系统性能就会明显下降。

他分析称,Nvidia的竞争力正在从GPU本体延伸至NVLink、NVSwitch等互联技术;而Moreh的重点,则是通过软件技术提升同一基础设施内多厂商芯片的协同调度效率。

据介绍,Moreh已经开发出一项“异构分离推理”技术,可将AI推理任务分别分配给Nvidia H100和AMD MI300X。根据该公司的内部测试,在特定高负载条件下,这一方案的吞吐量最高可达到仅使用MI300X配置的1.67倍。Moreh目前也在评估将相关异构芯片支持能力扩展至国产NPU的可行性。

Kangwon Cho表示,现阶段首先要打破“只有Nvidia才能用”的固有认知,推动AMD等其他芯片在韩国本土落地验证。长期来看,这也可能为国产NPU进入市场创造条件。

他还指出,没有任何一种单一芯片能够在所有任务中都做到最优。即便国产NPU只是在特定任务上建立起竞争力,哪怕仅承担数据中心整体工作负载的5%至10%,也足以形成一块可观的市场。

为支持国产芯片进入市场,Kangwon Cho认为政府扶持方式也需要调整。与其硬性规定国产芯片使用比例,不如把政策重点放在扩大韩国国内AI令牌需求上。他提出,可以面向需求侧企业发放“令牌券”,作为一种替代性的扶持方案。

他解释称,对采购AI令牌的企业而言,更关心的是价格和性能,而不是背后使用了哪一种芯片。一旦真实需求形成,供给侧企业为了降低成本,自然会主动组合不同芯片和软件方案。

Kangwon Cho表示,只要需求端被真正激活,企业就会自行完成验证并推动合作。例如,若通过软件把算力效率提升30%,企业就能生产更多令牌、提高收益;在这种情况下,即便没有行政强制,产业链合作也会自发形成。

关键词

#Moreh #主权AI #基础设施软件 #AI数据中心 #异构集群 #GPU #NPU #分布式训练 #CUDA #令牌券
版权所有 © DigitalToday。未经授权禁止转载或传播。