Argyll Data Development创始人兼董事长Peter Griffiths表示,企业在评估AI导入成本时,不应只关注模型性能或Token单价,还应将基础设施效率和长期运营成本纳入考量,综合判断整体经济性。
据TechRadar18日(当地时间)报道,Peter Griffiths在专栏文章中指出,企业级AI正从实验阶段逐步进入核心业务场景,相应的成本评估方式也需要调整。关键不在于单个Token的价格高低,而在于能否以可承受、可持续且可预测的成本支撑企业级AI应用。
他指出,尽管AI服务表面上多按Token计费,但其背后依赖的是算力设备、内存、网络、电力和冷却等实体基础设施。随着AI从小规模测试走向生产环境,并在业务中承载数百万次推理请求,这些基础设施在效率上的细微差异也会在长期运营中不断累积,最终转化为显著的成本差距。
Peter Griffiths认为,面向推理优化的专用基础设施,相比以训练为中心的架构更有机会提升能效。电力消耗下降后,冷却需求和设施设计复杂度也将随之降低,从而在基础设施全生命周期内减少运营成本。
不过,按用量计费的Token模式并不会消失。在业务用量波动较大,或企业仍处于AI试点阶段时,这种方式依然具备较强灵活性。但当AI进一步嵌入日常运营、Token消耗持续攀升后,企业在成本预测和控制方面面临的难度也会加大。尤其是,Token使用量只能说明“用了多少”,却无法回答这些投入究竟带来了多少营收增长或生产效率提升。
文章还提出,自建专用推理基础设施可以成为替代路径。与长期按用量付费相比,如果企业能够以相对固定的运营成本获取AI能力,那么在性能、数据部署位置以及系统韧性等方面的可控性也会提升。此外,若能结合自有可再生能源和长时储能系统,也可在一定程度上降低电价波动带来的影响。
Peter Griffiths还表示,企业AI的绩效衡量标准应从“消耗了多少Token”转向“产出了什么业务成果”。在基础模型持续更新的背景下,企业不仅要控制成本,还需要管理模型变化对性能、合规和风险带来的影响。
文章最终指出,企业AI竞争力的关键,不在于买到最便宜的Token,而在于能否以可预测的成本构建可持续的AI能力,并将其转化为真实的业务价值。