随着编程被视为生成式AI最具代表性的落地场景之一,围绕编程AI的竞争持续升温。与此同时,一些AI使用强度较高的企业也开始自研内部编程AI代理,以降低对外部工具的依赖并压缩成本。
据The Information报道,Coinbase、Shopify、Ramp等公司已经开发出自家的编程AI代理,并向员工开放使用,作为OpenAI、Anthropic等厂商高成本编程AI工具的替代方案。
其中,美国最大加密货币交易所Coinbase于4月推出编程AI代理Forge,并已向全体工程师开放。
工程师可以通过Slack、GitHub以及内部网页界面调用Forge。该工具不仅能协助团队设计新软件功能、讨论产品创意,还可直接参与开发流程,并在Coinbase代码仓库以及Datadog、Sentry等企业软件系统中执行相关任务。
Coinbase表示,自研Forge的重要目标之一就是降低AI成本。Forge通过公司自研的模型路由(model router),可根据需求在Anthropic、Google以及开源模型等不同模型之间进行调用。
The Information援引Coinbase工程团队高级总监Chintan Turakhia的话称,Forge上线后内部使用量增长迅速,同时也带动了成本下降。Turakhia表示,公司此前一度几乎没有对AI成本设限,导致支出持续上升;而现在即便Token使用量仍在增加,整体支出反而在下降。
Coinbase CEO Brian Armstrong也曾在6月通过社交平台X(原Twitter)公开介绍相关做法:在持续提升Token使用量的同时,将AI成本压低近一半。
他表示,关键并不在于限制使用量,而在于优化默认模型配置、路由策略和缓存机制。Coinbase目前正在测试新的方案,不再对调用量设置上限,而是在LLM网关中将GLM 5.2、Kimi 2.7等开放权重模型设为默认选项。
Coinbase还建立了自动分配系统,先对提示词进行分析,再结合缓存命中情况和模型价格,将请求自动路由至最合适的模型。Armstrong称,复杂规划任务需要性能更强的模型,而简单执行任务则可以交给成本更低的模型处理。最终目标,是把“如何选模型”这一步也交给AI自动完成。
与此同时,Coinbase也在推动所有请求尽可能复用已有缓存。缓存会保存此前处理过的提示词和回答,当出现相同或相近请求时,无需重新计算,系统可直接调用已存储的结果。
不过,推出Forge并不意味着Coinbase停止使用外部编程AI工具。Anthropic旗下Claude Code,仍是Coinbase约2500名工程师中使用最广泛的编程AI工具。
电商平台服务商Shopify也在Claude Code和OpenAI Codex之外,自研了编程AI代理River。公司管理层表示,截至5月,Shopify约75%的员工都在使用River。The Information援引管理层说法称,River的Token使用效率更高,能够以更低成本完成更多编程任务。
在企业卡、支出管理和财务管理领域运营的金融科技初创公司Ramp,也开发了自家的编程AI工具Inspect。
据The New Stack介绍,Inspect可与Datadog、Sentry、LaunchDarkly、Buildkite等系统联动,且不绑定单一模型;同时支持MCP服务器、可定制工具和自有工作流,兼容多种前沿模型。
不过,自研AI并不必然带来成本下降。Bloomberg报道称,Walmart曾在6月因自研编程代理Code Puppy使用量激增,转而对内部使用进行限制。
The New Stack指出,企业自研编程AI代理通常会与内部系统深度打通,并能够基于生产环境遥测数据验证代码变更,同时处理异步工程工作流。
但在开发者直接通过编辑器或终端进行交互式开发的场景中,商业化助手目前仍占主流。The New Stack认为,关键不在于企业是自研还是外购AI编程助手,而在于是否掌握了位于开发者与基础模型之间的“编排层”(orchestration layer)。