Gartner在当地时间6月24日预计,到2028年,AI编程成本将超过开发者平均年薪。
Gartner认为,成本上升的主要原因在于大语言模型令牌消耗持续增加,以及软件授权模式正从按席位转向按用量计费。
Gartner高级分析师Nitish Tyagi表示,越来越多企业正将AI编程代理从试点快速推向大规模部署,但普遍低估了令牌消耗上升带来的财务影响。他指出,开发者通常更重视速度和便利性,而非成本效率;在缺乏治理机制的情况下,令牌成本的增长可能快于生产力提升带来的收益。
与此同时,计费模式从按席位授权转向按用量,也让企业在成本预测和预算管理方面面临更大挑战。许多供应商并未清晰披露令牌消耗的计量口径和计费方式,导致企业难以准确估算支出。
Tyagi还表示,多数企业目前尚未建立起一套成熟的评估体系,用于衡量AI投入成本与实际业务效果之间的关系。随着预算消耗速度快于预期,软件工程负责人也越来越难以证明相关AI支出的合理性。
Gartner指出,令牌消耗过高往往还与多种管理问题有关,包括缺乏对代理工作流的管理、上下文窗口设置过大且并无必要,以及缺少用于优化使用方式的反馈机制。与此同时,AI编程供应商目前提供的成本优化功能也仍不成熟。
针对成本管理,Gartner向软件工程负责人提出了五项建议。首先,应根据任务类型明确AI使用标准,区分开发者主导、代理辅助和完全由代理主导等不同模式。其次,应依据任务复杂度选择模型,简单任务优先使用小模型,复杂任务再使用前沿模型。第三,应培训开发者开展上下文工程,减少无效信息输入,优化令牌使用。第四,要建立治理与成本控制机制。第五,应在定期开发会议中重点审视令牌消耗较高的工作方式,识别低效环节,并在团队内部共享改进方法。