NvidiaのAI分野での競争力は、GPUの性能や供給力だけでなく、AIデータセンター全体を最適化するシステム設計力にまで広がっているとの見方が出ている。AIコンピューティングがギガワット級へと大規模化する中、性能とコストを左右するのは高速なGPUの確保だけではなく、メモリ、ストレージ、ネットワーク、データフローをどこまで効率よく連携させられるかに移りつつあるためだ。

米TechCrunchが8月29日（現地時間）に報じたところによると、Nvidiaの直近の決算発表後、市場では同社の優位性をGPU供給力だけで説明するのは難しいとの分析が広がった。

これまでのNvidiaの強みは、AIブーム初期に最先端GPUを事実上独占的に供給し、巨額の収益を上げた点にあった。一方で、AmazonやGoogleなどのハイパースケーラーが独自AIチップの開発を進めており、NvidiaのGPU優位がどこまで続くのかを懸念する声も強まっていた。

2023年初から2025年半ばにかけて時価総額が約10倍に拡大した後、直近1年で株価上昇の勢いが相対的に鈍った背景にも、こうした競争激化への警戒感があった。

ただ、AIコンピューティングの大規模化に伴い、競争の軸そのものが変わり始めている。大規模AIデータセンターを高効率で運用するには、GPUの演算性能を高めるだけでは足りない。メモリやストレージ、ネットワークの接続に加え、必要なデータを適切なタイミングでGPUへ届ける仕組みまで含めて最適化する必要がある。

Nvidiaはこうした変化を踏まえ、GPU単体ではなく、データセンターを構成する主要ハードウェアとシステムを一体で設計する戦略を進めている。

その象徴が次世代のVera Rubinアーキテクチャだ。NvidiaはRubin GPUにVera CPUを組み合わせ、推論アクセラレータやストレージ、ネットワーク向けラックまでを単一システムとして構成する考え方を示している。

狙いは単に演算ユニットを増やすことではない。データ不足やネットワークのボトルネックでGPUが本来の性能を発揮できない場面を減らし、データセンター全体の効率を引き上げることにある。

とりわけVera CPUは、データ受け渡しの過程で生じるボトルネックの低減を担う。Nvidiaでストレージ技術を統括する副社長のジェイソン・ハーディは、単一サーバーやコンピューティングプラットフォームに搭載できるメモリには物理的な限界があると説明した。データセンターの演算能力とメモリ容量が増えても、必要なデータを適時にGPUへ渡せなければ、システム全体の効率は低下しかねないという。

ハーディは、Vera CPUによって一部処理で最大3倍の改善が確認されたと明らかにした。これにより、フラッシュストレージの性能をボトルネックなしで最大限活用できるようになったとしている。

AIサービス企業は、消費電力当たりの処理トークン数を増やしながらコストを下げる必要に迫られている。こうした中、データフローを制御する能力は重要な競争要素になり得る。

同様の問題意識は他のAI企業にも見られる。OpenAIは今月初め、ブログで自社設計の「ハラペーニョ」チップについて、データ移動と通信遅延の削減に重点を置いたと明らかにした。処理を統合システム内で完結させてデータ移動を最小限に抑え、リクエスト処理の全工程を高速かつ効率的に維持する設計だという。

もっとも、両社のアプローチは異なる。OpenAIが統合チップ内部で処理を進めてデータ移動そのものを減らすのに対し、NvidiaはGPU、CPU、ストレージ、ネットワークを含むシステム全体を最適化し、効率を高める方向に軸足を置く。

それでも共通しているのは、AIインフラの大規模化が進むほど、プロセッサ単体の演算性能以上に、データをいかに速く無駄なく動かせるかが重要になるという点だ。

このためAI半導体競争は、GPU単体の性能比較から、データセンター全体のシステム設計力を競う局面へ移行しつつある。

今後もNvidiaは、独自AIチップを開発するハイパースケーラーや競合半導体メーカーとの競争に直面する見通しだ。ただ、AIインフラ競争の初期段階では、Nvidiaに対抗するGPUを開発できるかどうか以上に、データセンター全体を効率的に動かすシステム力が重要な変数として浮上している。

NvidiaがGPUメーカーの枠を超え、演算、メモリ、ストレージ、ネットワークを束ねるシステム企業へと進化できるかどうかが、今後のAIインフラ市場の競争構図を左右することになりそうだ。