企业AI竞争焦点正从性能转向成本效率。图片来源:Shutterstock

生成式AI正迅速成为企业提升生产力的重要工具,但其成本攀升速度也超出市场预期。部分企业的AI支出短时间内大幅增加,甚至出现全年预算在数月内即被用完的情况,企业不得不在扩招与增加AI投入之间重新权衡。

据CNBC 5月29日(当地时间)报道,美国多家大型企业近期已较少讨论继续扩大AI应用规模,转而将重点放在成本控制和使用效率上。尽管AI使用量仍在增长,但如何提高投入产出比,正成为企业管理层面临的新课题。

企业级AI平台公司Glean首席执行官Arvind Jain表示,当前客户最头疼的问题之一,就是AI成本上涨过快。他说,不少企业的年度AI预算在一两个月内就已见底;AI使用持续增加,但企业对价格的敏感度上升得比预期更快。

行业原本普遍预计,随着技术进步和市场竞争加剧,AI成本会快速下降。但现实并未朝这一方向发展。最新一代大语言模型在性能提升的同时,价格往往也更高。

Arvind Jain指出,在不少情况下,头部模型的Token单价较上一代上涨约一倍。按目前的成本结构来看,这种支出水平很难被视为长期可持续。

更值得关注的是,AI支出如今已开始直接挤压企业的人力预算。过去,技术投入更多被视为运营成本的一部分;而现在,企业必须在“继续招人”和“为AI追加预算”之间作出更明确的取舍。

他进一步表示,越来越多企业正将原本可能用于新增招聘的预算转向AI投入,希望借此提升整体生产效率,但相应的扩招空间也因此被压缩。

AI软件开发平台Factory AI也观察到了类似变化。其首席执行官Matan Grinberg表示,管理层如今面临的现实问题是:究竟该优化员工规模,还是优化人均AI成本。AI已不再只是象征性的创新投入,而是实实在在的预算分配问题。

从企业使用路径来看,AI落地策略也在快速演变。Matan Grinberg表示,最初是董事会推动管理层导入AI;随后,企业进入了“尽可能多地使用AI、不太计较成本”的阶段。

而现在,企业已进入第三阶段,即围绕成本展开优化,重新评估是否所有工作都需要调用最昂贵、最新一代的模型,以及哪些任务可以交由成本更低的模型完成。

问题在于,尽管AI确实带来了实际效果,但其创造的收益尚未证明足以抵消成本上升的速度。Arvind Jain表示,AI无疑是强大的工具,但目前仍不够高效,企业从中获得的价值往往跟不上支出的增长。

他还指出,目前企业级AI应用中,约95%的调用量仍集中在最昂贵的顶级模型上,但其中相当一部分任务,即便使用性能略低、价格更便宜的模型,同样可以完成。

有分析认为,仅通过更合理地划分任务类型并调整模型调用策略,企业就能显著压缩AI支出。Arvind Jain主张,针对不同任务难度分层使用模型,最高可实现约10倍的成本节约。

这也意味着,企业AI市场的竞争逻辑正在发生变化。过去,行业比拼的核心是谁能推出性能更强的模型;而未来,更关键的问题可能是如何把不同模型匹配到不同任务上,以提升整体成本效率。

业内普遍认为,AI市场正从性能竞赛转向经济性竞赛。随着企业不再一味追逐顶级模型的性能提升,而是更加严格地审视投入产出比,AI产业的增长节奏以及相关企业的估值,也可能随之受到明显影响。

关键词

#生成式AI #企业AI预算 #成本控制 #大语言模型 #Glean #Factory AI #Token单价 #按任务匹配模型 #投入产出比
版权所有 © DigitalToday。未经授权禁止转载或传播。