企业AI导入的竞争焦点正从GPU转向令牌成本、数据主权和模型选择。[来源:ChatGPT]

随着企业加快部署AI,行业竞争的重点正从争夺GPU,逐步转向成本控制、数据掌控能力以及模型选型。业界普遍认为,当AI从试点阶段进入实际业务应用后,相比单纯追求硬件性能,系统整体效率和投入产出比将变得更为关键。

据IT媒体SiliconANGLE报道,当地时间17日,Dell在美国芝加哥举行的超级计算大会SC26上,介绍了企业级AI基础设施建设策略的最新变化。

Dell AI解决方案高级总监Brad Maltz表示,企业若要将AI从试点推进到运营阶段,不能只关注服务器和GPU,还需要统筹软件、数据、模型和安全体系,构建全栈式“AI工厂”。

他指出,随着AI使用规模扩大,令牌成本正迅速成为企业新的主要负担。按照Dell的说法,先进模型和大型云服务的令牌成本高于预期,单个用户每月相关支出可能达到1万至2万美元,这一水平此前并未被充分预估。

除成本压力外,数据主权、知识产权泄露风险、安全与治理问题,也被视为企业级AI扩张过程中的主要障碍。基于这一背景,越来越多企业开始降低对外部云的依赖,转而关注可在自有服务器上运行的开放权重模型。报道提到,Nvidia的“Nemotron”被视为代表性选项之一。

围绕上述需求,Dell也在强化软硬件一体化的“AI工厂”业务。通过其AI生态项目,Dell会对合作伙伴方案的兼容性、安全性和稳定性进行验证。目前,约有60家企业已申请加入,或正处于评估阶段。

Dell当地时间16日披露的最新资料显示,基于Nvidia的AI工厂客户已超过6500家,覆盖数据、计算和网络等领域的产品与服务也已扩展至420多项。

此次公布的“Agentic Data Gateway”旨在让AI智能体能够安全调用企业内部数据。Dell表示,在内部测试中,通过复用数据上下文,相关方案最多可将令牌消耗降低76%,并把回答准确率从60%提升至94%。

这也意味着,企业级AI市场的竞争逻辑,正在从单纯获取算力,进一步转向成本效率、数据控制能力以及实际业务成效。

关键词

#Dell #企业级AI #令牌成本 #GPU #AI工厂 #数据主权 #开放权重模型 #Nvidia #Agentic Data Gateway #SC26
版权所有 © DigitalToday。未经授权禁止转载或传播。