企業のAI導入を巡る競争軸が変わってきた。これまで重視されてきたGPUの確保に加え、足元ではトークンコストを含む運用コストの抑制、データ主権の確保、用途に応じたモデル選定が重要な判断材料になっている。PoCを本番運用へ移す段階では、ハードウェア性能だけでなく、システム全体の効率と収益性が問われるためだ。
米ITメディアSiliconANGLEによると、Dell Technologiesは17日(現地時間)、米シカゴで開かれたスーパーコンピューティング会議「SC26」で、企業向けAIインフラ戦略の変化について説明した。
DellでAIソリューション部門のシニアディレクターを務めるブラッド・マルツ氏は、AIのPoCを本番環境へ移行するには、サーバーやGPUだけでは不十分だと指摘した。ソフトウェア、データ、モデル、セキュリティを一体で備えた「フルスタックAIファクトリー」が必要だという。
なかでも大きな負担として挙げたのが、AI利用の拡大に伴うトークンコストだ。マルツ氏は、先端AIモデルの開発企業や大手クラウド事業者では、トークン関連の支出が想定を上回る規模になっていると述べた。
さらに、利用者1人当たりの月額コストが1万〜2万ドル(約150万〜300万円)に達する可能性は想定していなかったとも説明した。
コスト面に加え、データ主権、知的財産の流出リスク、セキュリティ、ガバナンスも企業向けAI導入の障壁として浮上している。こうした背景から、企業は外部クラウドへの依存を抑え、自社サーバー上で運用できるオープンウェイトモデルへの関心を強めているという。選択肢の一つとして、NVIDIAの「Nemotron」に言及した。
Dellはこうした需要に対応するため、ソフトウェアとハードウェアを統合した「AIファクトリー」事業を強化している。AIエコシステムプログラムを通じて、協業先ソリューションの互換性やセキュリティ、安定性を検証しており、新たに約60社が参加を申請するか、審査を受けているとしている。
Dellが16日に公表した最新資料によると、NVIDIAベースのAIファクトリーの顧客数は6500社を超えた。データ、コンピューティング、ネットワークをカバーする製品・サービスも420超に拡大している。
あわせて公開した「Agentic Data Gateway」は、社内データをAIエージェントが安全に活用できるよう支援する製品だ。Dellは社内テストの結果として、データの文脈を再利用することでトークン消費を最大76%削減し、回答精度を60%から94%に高めたと発表した。
企業向けAI市場では、単純な計算資源の確保だけでは差別化しにくくなっている。今後は、コスト効率、データ主権、実運用での成果を軸に競争が進むことになりそうだ。