搜索关键词 LLM网关
AI & Enterprise
AI成本攀升,Coinbase等企业转向自研编程AI代理
随着编程成为生成式AI最重要的应用场景之一,越来越多高频使用AI的企业开始自研编程AI代理,以替代部分外部高成本工具。据The Information报道,Coinbase、Shopify、Ramp等公司已在内部推出相关产品,并通过模型路由、默认模型配置和缓存机制降低AI支出。
AI & Enterprise
成本驱动下中国开源AI模型获美企关注:Coinbase测试GLM 5.2,Microsoft评估DeepSeek
随着AI投入持续攀升,部分美国科技公司正将目光转向成本更低的中国开源AI模型。Coinbase正在测试在其LLM网关中默认接入Z.ai的GLM 5.2、Moonshot AI的Kimi 2.7等模型;Microsoft也在评估DeepSeek V4微调版本及其他开源模型,作为OpenAI和Anthropic方案的低成本替代选择。业内认为,开源带来的可控性以及监管因素,正共同推动这类模型在企业端的采用。
AI & Enterprise
Coinbase公开AI降本方法:调整默认模型、优化路由、提升缓存复用
随着企业AI使用量不断上升,成本控制正成为新的管理重点。Coinbase近日披露,其通过调整默认模型、优化模型路由和提高缓存复用率,在Token消耗持续增长的情况下将AI成本压降近50%。Microsoft的Nicholas Bustamante则提出“Token工程”和“后台Agent”概念,并预计未来Token定价可能转向按可接受时延分层。