UberではAI利用が急増する一方、関連支出は抑制されている。Axiosが27日(現地時間)に報じたところによると、同社の週次AIエージェントリクエストは2月以降で9.4倍に増えたが、総AI支出は4月以降ほぼ横ばいで推移している。
Uberの上級エンジニア、ウダイ・キラン・メディセティ氏がブログで明らかにしたところによると、同一AIモデルにおける1,000件のリクエスト当たりコストは、4月のピーク時に比べて約34%低下した。セッション当たりコストも、6月の高値から52%下がった。
コード変更提案の70%超をAIエージェントが担っているという。Uberのエンジニアは1日に3万件を超えるAIエージェント関連タスクを処理しており、AIツールの利用者数も4倍以上に増加した。それでも、トークンコストはむしろ減少したとしている。
こうしたコスト抑制の背景には、タスクごとに最適なモデルを使い分ける運用がある。Uberはコストと性能の両面を踏まえ、小規模な作業は比較的低コストのモデルに振り分けている。対話型セッションではトークン上限を40万に設定し、利用中のモデルが最大100万トークンを処理可能な場合でも、この上限を適用している。
エンジニアはターミナル上で、セッションごとのリアルタイムコストを直接確認できる。あわせて、プロンプトキャッシュの保持時間も従来の5分から1時間に延長した。セッションを開いたまま5分以上離席するケースが多かったためだ。
企業の間では、オープンウェイトモデルの活用を広げてコスト削減を図る動きも強まっている。Uberの最高技術責任者(CTO)、プラビン・ネパリ氏もX(旧Twitter)への投稿で、オープンウェイトモデルの実験をコスト削減要因の一つに挙げた。「各ユースケースに適したモデルを継続的に評価し、使い分けている」と説明している。
ネパリCTOは4月、The Informationのインタビューで、Uberがすでに2026年分のAI予算を使い切ったと明らかにしていた。