随着企业AI应用从试点阶段转向规模化落地，模型调用成本正成为越来越现实的问题。Alteryx首席产品官Ben Canning认为，企业若想压降AI成本，重点不只是选择更便宜的模型，更在于减少不必要的Token开销和算力消耗。
当地时间10月1日，IT媒体TechRadar刊发了Ben Canning的署名文章。文中指出，尽管模型路由和开源模型正被视为控制成本的替代方案，但仅靠这些手段，仍不足以解决企业AI应用中的成本压力。
近期，随着中国Moonshot AI推出Kimi K3等强调低成本、高性能的模型，按不同应用场景选择不同模型的做法正逐步普及。不过，Ben Canning认为，在讨论“该用哪种模型”之前，企业首先要判断某项任务是否真的需要由大语言模型（LLM）处理。
他指出，如果文件比对、内部规则校验、合规审查等重复性工作每次都交给LLM完成，模型就不得不反复处理相同的上下文和规则，进而持续推高Token开销和算力消耗。尤其是当企业需要让模型一再理解营收口径、利润率计算规则以及各类内部制度时，不仅成本会上升，回答出错的风险也会随之增加。
针对这一问题，Ben Canning提出，应引入“业务逻辑层”（Business logic layer），将重复性任务所依赖的分析流程、企业规则和定义提前沉淀为工作流。这样一来，LLM不再承担具体计算，而是直接调用计算结果，并负责结果呈现与解释。
例如，当用户询问团队利润率时，可以先由云端数据平台完成相关计算，再由模型输出结果并作出说明。这样既能减少大段上下文输入，也能避免重复运算带来的额外开销。
Ben Canning表示，在税务、财务、合规等需要依据既定规则稳定输出一致答案的领域，这类架构不仅有助于控制成本，对提升准确性同样重要。企业优化AI成本的关键，不在于单纯寻找更便宜的Token，而在于建立可信的工作流和业务逻辑，从源头减少不必要的Token生成。
Choi Jae-won
ittt_0801@d-today.co.kr