企业AI成本评估重心正从模型性能和Token单价转向基础设施效率与长期运营成本。图片来源:ChatGPT

Argyll Data Development创始人兼董事长Peter Griffiths表示,企业在评估AI导入成本时,不应只关注模型性能或Token单价,还应将基础设施效率和长期运营成本纳入考量,综合判断整体经济性。

据TechRadar18日(当地时间)报道,Peter Griffiths在专栏文章中指出,企业级AI正从实验阶段逐步进入核心业务场景,相应的成本评估方式也需要调整。关键不在于单个Token的价格高低,而在于能否以可承受、可持续且可预测的成本支撑企业级AI应用。

他指出,尽管AI服务表面上多按Token计费,但其背后依赖的是算力设备、内存、网络、电力和冷却等实体基础设施。随着AI从小规模测试走向生产环境,并在业务中承载数百万次推理请求,这些基础设施在效率上的细微差异也会在长期运营中不断累积,最终转化为显著的成本差距。

Peter Griffiths认为,面向推理优化的专用基础设施,相比以训练为中心的架构更有机会提升能效。电力消耗下降后,冷却需求和设施设计复杂度也将随之降低,从而在基础设施全生命周期内减少运营成本。

不过,按用量计费的Token模式并不会消失。在业务用量波动较大,或企业仍处于AI试点阶段时,这种方式依然具备较强灵活性。但当AI进一步嵌入日常运营、Token消耗持续攀升后,企业在成本预测和控制方面面临的难度也会加大。尤其是,Token使用量只能说明“用了多少”,却无法回答这些投入究竟带来了多少营收增长或生产效率提升。

文章还提出,自建专用推理基础设施可以成为替代路径。与长期按用量付费相比,如果企业能够以相对固定的运营成本获取AI能力,那么在性能、数据部署位置以及系统韧性等方面的可控性也会提升。此外,若能结合自有可再生能源和长时储能系统,也可在一定程度上降低电价波动带来的影响。

Peter Griffiths还表示,企业AI的绩效衡量标准应从“消耗了多少Token”转向“产出了什么业务成果”。在基础模型持续更新的背景下,企业不仅要控制成本,还需要管理模型变化对性能、合规和风险带来的影响。

文章最终指出,企业AI竞争力的关键,不在于买到最便宜的Token,而在于能否以可预测的成本构建可持续的AI能力,并将其转化为真实的业务价值。

关键词

#企业AI #Token计费 #推理 #AI基础设施 #长期运营成本 #能耗 #冷却系统 #专用推理基础设施 #可预测的成本 #业务成果
版权所有 © DigitalToday。未经授权禁止转载或传播。