NVIDIAは25日（現地時間）、米国で開かれた半導体関連の会議「Hot Chips 2026」で、AI推論とネットワークインフラに関する新製品群を発表した。推論向けの「NVIDIA Grok 3 LPX」の量産開始に加え、Ethernet拡張技術「Spectrum-X Multiplane」やインフラ高速化技術「NVIDIA ScaleIn」も公開した。今回の発表では、とりわけ推論時のトークン生成速度を重視した。

同社が打ち出した柱は、推論性能、ネットワーク拡張性、エージェント向けCPUの3点だ。いずれも「Vera Rubin」基盤上で展開することを強調した。NVIDIAは26日（現地時間）に第2四半期決算を発表する予定で、韓国時間では27日未明に当たる。

◆Grok 3 LPXを量産開始　単一レイヤーでGPU 51万2000基まで拡張

NVIDIAはHot Chips 2026で、Grok 3 LPXの量産開始を明らかにした。次世代AIファクトリー基盤「Vera Rubin」を拡張する推論向け製品で、同社は現時点で計測された中でも最速クラスの性能を実現したとしている。

同社によると、Grok 3 LPXは、オープンソースのエージェンティックモデル「Gemma 4 31B」に10万トークンのコンテキストを適用したArtificial Analysisベンチマークで、毎秒3400トークンの出力を記録した。

AIクラウド企業Nebiusは、自社の推論プラットフォーム「Nebius Token Factory」にGrok 3 LPXを初めて導入する計画だ。AI推論特化型クラウド企業Grokも初期導入企業に加わった。

ジェンスン・フアンNVIDIA創業者兼CEOは、「推論はAI成長の原動力だ」とした上で、「Vera RubinはエージェンティックAI時代に向けて最適化したAIファクトリー構成を提供する。超高速トークン生成に対応するLPXにより、性能の限界をさらに押し広げる」と述べた。

エージェンティックAIは、人の介在なしに複数の段階を踏んでタスクを完了するAIを指す。推論の過程で数百〜数千段階にわたり大量のトークンを生成するため、生成速度が遅いと全体の処理も遅くなる。

NVIDIAは、エージェンティックAIでは「大規模コンテキスト処理」と「低遅延のトークン生成」という2つの課題に同時に対応する必要があると説明した。Grok 3 LPXは、このうちユーザー向け推論で求められるトークン生成速度の向上に重点を置いたとしている。

同日には、Ethernetアーキテクチャの新技術「Spectrum-X Multiplane」も公開した。NVIDIAによると、AIファクトリーを現在の最大規模クラスタ以上へ拡張するには第3のネットワーク層を追加する必要があるが、その場合は遅延や性能のばらつきが大きくなり、ケーブル、光学部品、電力の各コストも増えるという。

この課題に対し、Multiplaneではサーバーのネットワーク接続を複数の独立した経路（プレーン）に分割し、それぞれを独立した第2層ネットワークとして運用する。NVIDIAは、この方式により第3層を設けずにGPU 51万2000基まで拡張できるとしている。

経路制御は、ConnectX SuperNIC内の専用ハードウェアエンジンが担う。障害発生時には障害箇所を即座に回避するよう経路を再構成し、アプリケーションやソフトウェアからは単一の接続として認識される仕組みだという。

同社によると、8プレーン構成では1プレーンに障害が発生しても総帯域の約90％を維持できる。ソフトウェアベースの負荷分散と比べ、ハードウェアによる復旧速度は11倍速く、AIファクトリーのスループットは1.6倍に高まるとしている。

インフラサービスそのものを高速化の対象とする技術として、「NVIDIA ScaleIn」も発表した。BlueField-4プロセッサとDOCAソフトウェアプラットフォームを基盤に、ネットワーキング、ストレージ、セキュリティ、運用を一体で高速化する。NVIDIAは、AIファクトリーの拡大に伴い、こうしたインフラサービスもAIコンピューティングと同等の速度で処理する必要があると説明した。

今回公開したネットワーク技術は「Vera Rubin NVL72」向けに設計した。構成要素として「Spectrum-X SN6000」シリーズのスイッチと「ConnectX-9 SuperNIC」を挙げた。複数のデータセンターを単一のAIスーパーファクトリーのように束ねる「Spectrum-XGS Ethernet」は、マルチサイトNCCL集団演算を1.9倍高速化するとしている。

◆SpaceXAIがVera CPUを採用　宇宙向け展開も視野

NVIDIAは、宇宙向けの展開についても言及した。SpaceXAIが、次世代エージェンティックAIワークロードの高速化に向けて「Vera CPU」を導入すると公表した。軌道上の環境は、電力・熱管理、帯域幅、信頼性、物理的な統合の面で地上データセンターとは異なる制約があるという。

Veraは、AIエージェント向けに設計した同社初のCPU。NVIDIA設計のOlympusコア88基と高帯域幅のLPDDR5Xメモリを搭載し、最大1.2TB/sの帯域幅を提供する。エージェンティックAI、強化学習、データ処理の各ワークロードで、x86 CPU比でタスク完了速度を最大1.8倍に高めるとしている。

NVIDIAがCPUを前面に押し出す背景には、エージェンティックAIの動作特性がある。エージェンティックアプリケーションでは、モデル呼び出しの合間にツールをオーケストレーションし、コードを実行し、データを処理する場面が増えており、CPUへの依存度も高まっているという。

マイク・ニコルスSpaceXAI社長は、「Veraは、GPUを最も得意とする処理に集中させながら、大規模なオーケストレーション、コード実行、データ処理に必要なCPU性能とメモリ帯域を提供する」と述べた。

SpaceXAIはVera Rubinを基盤に、Grokを支えるAIインフラをギガワット級コンピューティング規模へ拡大する計画だ。第1世代のStarmind AI衛星には、最適化したVera Rubin NVL72システムを適用する。地上のAIファクトリーを支えるアーキテクチャを軌道上へ展開する構想としている。