企業のAI活用が、利用拡大を優先する段階から、業務内容に応じてモデルを使い分けるコスト最適化の段階へ移っている。UberやMicrosoftなど大手企業でも、社員によるAI利用の費用対効果を精査し、運用の見直しを進める動きが広がっている。
米Business Insiderが4日(現地時間)に報じた。AI業界では、トークン使用量の上限管理に頼るよりも、作業の難度に応じて最適なモデルを選ぶ「モデル・ミキシング」が、新たな運用手法として注目を集めている。
AIスタートアップBold Metricsで最高技術責任者(CTO)を務めるモーガン・リントン氏は、エンジニアに対し、作業ごとに利用するモデルを指定していると明らかにした。
あるチームにはClaude Fableの軽量設定、別のチームにはGPT-5.5の高性能設定を割り当て、さらに別のチームではCursorとComposer 2.5を組み合わせて使う。リントン氏は、こうした運用によって、トークン使用量に一律の上限を設けなくてもコストを管理できると説明した。
背景には、企業のAI関連支出の急増がある。UberやMicrosoftも、社員のAI利用コストを点検したうえで、より慎重な運用へと転じつつあるという。
暗号資産取引所Coinbaseの最高経営責任者(CEO)、ブライアン・アームストロング氏は6月、「全ワークロードの80%は12〜18カ月以内に、99%安価なモデルへ移行する」との見通しを示した。残る20%だけが最新モデルにとどまり、この領域では知能性能の最大化が重要になると付け加えた。
現場の利用者もAIの使い方を見直している。ビッグテック業界のユーザー体験(UX)デザイナー、タンビ・ピサル氏は、ClaudeでUXの構想を進めていたものの、数カ月分に相当するトークンを消費しても作業を終えられなかったと語った。
その後は、Figmaで画面設計を終えたうえで、そのスクリーンショットをClaudeに入力し、機能やフローの構成に絞って活用する方式へ切り替えた。ピサル氏は、設計を先行させることでトークンの節約につながったと説明している。
AIスタートアップHetchuraの共同創業者、クリス・マコニー氏も、低価格帯モデルの検証を積極的に進めている。OpenClawの構築では、まず安価なGeminiモデルを使い、その後AnthropicのHaikuへ切り替えたという。
マコニー氏は「必要な水準の知能性能を、より安価なモデルで満たせるか試すことに、ためらう必要はない」と述べた。
こうした流れの中で、リクエスト内容を分析し、難度に応じて最適なAIモデルへ自動で振り分けるソフトウェアを手がける企業にも注目が集まっている。
Raylinを運営するデイビッド・ギルモア氏によると、多くの顧客は当初、最新モデルを使わないことに不安を抱くものの、APIの請求額を確認した後で利用規模を縮小するケースが多いという。
サンフランシスコの投資会社Blockspaceforceは、OpenRouter、Fireworks、Together AIを利用している。共同代表のスペンサー・ヤン氏は、まず低価格モデルに「より高価なモデルが必要かどうか」を判断させるアプローチも有効だと勧めた。
ヤン氏は、AIモデル自体が作業の複雑さを評価する能力も高めていると話した。
もっとも、すべての企業がこの流れに乗っているわけではない。依然として、最新かつ最も高価なモデルを標準設定として使っている企業もある。
マコニー氏はこうした慣行について、「どのモデルが何に向いているかを理解するには手間がかかる。その作業を避け、単に流行を追っているだけだ」と指摘した。
AI予算の管理が本格化するなか、業務ごとに最適なモデルを割り当てる運用力が、性能とコストの両立を左右する競争力として浮上している。