搜索关键词 提示词缓存
AI & Enterprise
Jobis&Villains上线AI代理管理平台Carter，统一接入“三点三”业务场景
“三点三”运营方Jobis&Villains宣布，上线内部AI代理管理平台Carter，对公司内部各自运行的AI代理进行统一管理，并集中提供成本监控、安全与隐私保护等通用能力。目前，三点三Q、三点三App在内的8个AI代理已接入该平台。公司表示，通过模型分层与提示词缓存，LLM调用成本分别下降约45%和43%。
AI & Enterprise
Uber AI调用激增但成本趋稳：周度智能体请求较2月增长9.4倍
Uber在AI调用量大幅增长的同时，整体成本已趋于稳定。数据显示，其周度智能体请求量较2月增长9.4倍，但AI总支出自4月以来基本持平。按同一模型口径计算，每千次请求成本较4月峰值下降近34%，单次会话成本较6月高点下降52%。
AI & Enterprise
Anthropic旗下Claude Code首轮请求最高达7.5万至8.5万Token，未提问先占用大量上下文
AI咨询公司Systima对Claude Code与开源工具OpenCode进行对比测试后发现，Claude Code在用户发出指令前就会先向模型发送大量Token。最简场景下，首轮请求约为32800 Token；在真实开发环境中，则可能升至7.5万至8.5万Token。造成差异的主要因素包括工具说明、系统提示词、指示文件以及MCP服务器配置，这不仅会增加调用成本，也会提前占用上下文窗口容量。
