写真=Reve AI

人工知能(AI)の導入が広がるなか、企業の関心は性能競争だけでなくコスト管理にも移ってきた。OpenAIやAnthropicの高性能モデルを中核に据えつつ、低価格モデルを用途別に使い分けたり、モデル選択を自動化するルーターを導入したりすることで、AI関連支出の抑制を図る動きが広がっている。オープンソースモデルを取り込み、自社向けに最適化する事例も増えている。

The Informationによると、AIカスタマーサポートエージェントを手掛けるFinは、これまでAnthropicのSonnetを利用してきたが、約1年前からオープンウェイト(open-weight)モデルを基盤とする自社向けカスタムAIの開発へと比重を移している。直近数か月でその流れは一段と強まっているという。

この取り組みにより、Finは年間で数億ドル規模のコストを削減し、利益率も大きく改善した。Finはその後、Salesforceに36億ドルで売却された。

MetaやUberのように、従業員によるAI利用に上限を設ける企業も出てきた。両社は一時、社内でのAI利用を実質的に制限していなかったが、確保していた予算を上回ったため、抑制策に転じたという。

利用できるAIモデル自体を社員ごとに制御する企業もある。コスト抑制を目的に、高額なモデルへのアクセス権を一部の従業員に限定するケースもみられる。

AIコストは、モデルの使い分けだけでなく、推論量の調整でも削減できる。エンタープライズソフトウェア企業のUiPathは、AIモデルが作業前の「thinking」に費やす量を抑えるプロンプトエンジニアリングを採用している。特に既存の処理パターンを活用できる作業でこの手法を多用しており、一部業務ではコストを90%超削減したという。

一方で、AnthropicやOpenAIの高性能モデルの利用は引き続き高水準で伸びている。ただ、オープンソースモデルとの差は縮小しつつあるとの見方が多い。性能面で優位を維持できなければ、ユーザーの一部がより安価な選択肢へ移る可能性もある。

特に中国発のオープンソースAIモデルは、低価格でありながら実用水準を大きく高めている。ベンチマークによっては、OpenAIやAnthropicを上回る結果も示されている。

複数のAIモデルを横断的に利用できるサービスを提供するOpenRouterによると、6月第2週にオープンソースモデルが処理したトークン比率は約65%となった。1月の34%、前年同期の26%から大きく上昇した。なかでも中国のDeepSeekとMiniMaxのモデルが伸びをけん引した。

OpenRouterは、これまでオープンソースモデルの利用は小規模なAIスタートアップが中心だったが、足元では大企業の需要も増えていると説明する。

ソフトウェア開発ツール企業のFactoryでも同様の傾向が出ている。同社は6月1日にモデルルーターを投入したが、これ以降、オープンソースモデルの利用量は前月比で3倍に急増したという。Adobe、ITサービス企業Ypro、決済企業Adyenなどが同社のルーターを利用している。

商用モデルの代替としてオープンソースモデルを採用し、大幅なコスト削減につなげる事例もある。ソフトウェア開発会社Inflectraのアダム・サンドマンCEOは、AnthropicのモデルからAlibabaのオープンソースモデル「Qwen」に切り替えた結果、ソフトウェア開発工程で画像や動画を分析する機能にかかるAIコストを99%削減できたと明らかにした。

米最大の暗号資産取引所Coinbaseも、中国のオープンソースモデルを活用し、トークン使用量を増やしながらAI支出を半分近く削減したという。

ブライアン・アームストロングCoinbase CEOによると、同社はZ.aiの「GLM 5.2」とMoonshotの「Kimi 2.7」を主力モデルとして採用した。

同氏は、エンジニアが自らのトークン使用量を把握できるようにしたことも重要だと説明した。利用量を可視化したうえで、成果に見合う形でAIを使う運用に改めたという。目標はトークン数そのものを減らすことではなく、無駄な消費を抑えつつ、利用拡大を持続可能にするインフラを整えることだとしている。

企業でのAI活用がさらに広がるにつれ、AIコスト管理の戦略的重要性は一段と高まりそうだ。

もっとも、AIコストは従来のクラウドやSaaSの支出管理とは性格が異なるとの指摘もある。SiliconANGLEによると、Gartnerのマルコ・メイナルディ副社長兼アナリストは、従来は組織内の利用者数やシステム構成が主にコストを左右していたのに対し、AIでは顧客がアプリケーションをどう使い、どのようなプロンプトを入力するかによってコストが変動すると指摘した。そのため、AIコストには従来とは異なる管理手法が必要になるとしている。

キーワード

#AI #コスト最適化 #オープンソースモデル #モデルルーター #トークン
Copyright © DigitalToday. All rights reserved. Unauthorized reproduction and redistribution are prohibited.