写真=Shutterstock

AI導入の指標として使われるトークン消費量が、実態以上に膨らんでいる可能性がある。米CNBCが17日(現地時間)、企業がAI活用度をトークン消費量で測る動きの広がりにより、成果ではなく使用量の積み上げが優先されかねないと報じた。

トークンは、AIの利用量を測る基本単位で、ユーザーの質問やモデルの回答を構成する単語や文字を指す。通常のやり取りでは数百トークン程度に収まるが、コード生成やWeb閲覧、複数段階の処理をこなすエージェント型AIでは、1セッション当たりの消費量が数千倍規模に膨らむことがある。

CNBCは、企業がAI導入の進捗や活用度をトークン消費量で評価し始めたことで、従業員が成果創出よりも指標の引き上げに意識を向ける恐れがあると指摘した。

MetaとShopifyは、従業員ごとのトークン使用量を追跡する社内ランキングを整備した。NVIDIAのCEO、ジェンスン・フアン氏は、年俸50万ドルのエンジニアが25万ドル分のコンピューティング資源を使っていなければ、「かなり心配するだろう」と述べたという。

これに対し、DatabricksのCEO、アリ・ゴドシ氏は「とにかく費用を膨らませるのが目的なら簡単だ」とし、「同じ問い合わせを10カ所に送り直したり、ループを繰り返し実行したりすればコストは増えるが、何も生み出さない」と語った。

ハーバード・ビジネス・スクールAI研究所のジェン・ステイブ氏は、「CTOやCIOら12人に話を聞いたが、全員がROIの算定に苦労していると話していた」と明らかにした。

AnthropicのCEO、ダリオ・アモデイ氏は、こうした状況を「不確実性の円錐(cone of uncertainty)」と表現した。「データセンターの構築には1〜2年かかる。まだ検証されていない需要を見越して、今の時点で数十億ドルを投じなければならない。見通しが数年ずれるだけで深刻な事態になりかねない」と述べた。

Anthropicは、こうした需要変動を踏まえ、料金体系を従量課金制に切り替えた。従来の定額制エンタープライズプランに代え、実際の利用量に応じて課金する仕組みに改めた。

CNBCによると、月額200ドルのMaxプラン契約者が、OpenClawのようなサードパーティーツールにClaudeのサブスクリプションを接続し、エージェントを24時間稼働させる使い方は、Anthropicにとって採算が合わなかったという。

キーワード

#AI #トークン消費量 #ROI #Meta #Shopify #NVIDIA #Databricks #Anthropic #従量課金
Copyright © DigitalToday. All rights reserved. Unauthorized reproduction and redistribution are prohibited.