高帯域幅メモリ（HBM）の増産だけでは、AIサーバーの急拡大するメモリ需要を吸収しきれなくなっている。こうした中、業界の関心は帯域幅の拡大から、限られたメモリ資源をどこまで効率よく使えるかへ移りつつある。CXL、PIM、高帯域幅フラッシュ（HBF）を組み合わせた階層型メモリ構成が、現実的な選択肢として注目を集めている。

12日付けの業界情報によると、AIサーバーに搭載されたメモリのうち、実際に演算に使われる割合は50～60%程度にとどまる。使われていない容量はサーバーごとに固定され、別のサーバーに振り向けられない構造になっている。

メモリ増設のペースが需要に追い付かない状況が長引く中、単純な増設よりも、遊休資源を有効活用する技術に投資の重点が移っている。

背景にあるのは、サーバー構成そのものの制約だ。容量と帯域幅を増やすにはCPU側でメモリチャネルを追加する必要があるが、その分、設計の複雑さとコストが増す。

ワークロードの変動に備え、各サーバーに余裕を持たせてメモリを積む運用も一般化してきた。ただ、あるサーバーで使われていないメモリを別のサーバーが利用する仕組みがないため、データセンター全体では相当量の資源が固定化される。

一方で、供給面でもHBMの拡大余地は限られてきた。GPU1基に搭載できるHBMの個数と容量には物理的な上限があり、積層数を増やすほど工程の難度と製造コストは高まる。

業界では、SK hynixとMicronについて、追加増設に必要な工場用地の確保に制約があるとみられている。Samsung Electronicsも、1cナノDRAMの歩留まりが完全には安定していない中でHBMの量産を続けているとされる。供給拡大の余地が狭まる中、既存メモリの活用度を高める手法に注目が集まっている。

需要側の変化はさらに速い。ユアンタ証券によると、AI処理時にGPUが実際の演算に使われる時間の比率は20～30%にとどまり、残りはデータ転送や待機に費やされている。

AI産業の重心が学習から推論へ、さらにエージェンティックAIへ移るにつれ、過去の対話履歴や判断結果といった中間データの保存・読み出し頻度が急増していることが背景にある。

こうした課題への対応策として、先行して商用化が進んでいるのがCompute Express Link（CXL）だ。CXLは、サーバーごとに分散したメモリをオープンな高速インターフェースで束ね、必要に応じて動的に配分できるようにする技術である。

2021年に公表されたCXL 2.0ではメモリプーリングに対応した。2025年11月に公開されたCXL 4.0はPCIe 7.0をベースとし、128GT/sの速度と、単一の論理接続当たり1.5TB/s超の帯域幅を示している。

市場調査会社Yoleは、CXL市場が2028年に約150億ドル（約2兆2500億円）規模に成長すると予測する。2026年にはIntelとAMDの次世代CPUが本格対応し、市場形成が本格化するとの見方も示した。

企業の取り組みは、ハードウェア単体よりも運用ソフトウェアを含めた全体最適に重点が移っている。Samsung ElectronicsはCXL 2.0ベースの256GB CMM-Dの量産を進める一方、メモリ資源の配分を管理するオーケストレーションコンソールも提供している。

SK hynixは96GBおよび128GBのCXL 2.0メモリソリューションを商用化し、Niagara 2.0ソフトウェアとCMM-Axコンピュテーショナルメモリを組み合わせたフルスタック戦略を打ち出している。

スイッチ分野ではPanmnesiaが2027年下半期の顧客向け供給を予告した。Marvellは2026年2月、XCONを5億4000万ドル（約810億円）で買収し、垂直統合に踏み切った。

もっとも、この流れは単一製品がHBMを置き換えるという話ではない。SK hynixがFMS 2026の基調講演で示した「ティアードメモリ」の考え方は、エージェンティックAI時代の要求に単一のメモリタイプだけで対応するのは難しい、という前提に立っている。

HBMが帯域幅を担い、CXLが容量拡張と総所有コスト（TCO）低減を支え、演算機能をメモリ側に持たせるPIMが電力効率を補う――。業界では、こうした多層構成への再編が進むとの見方が出ている。

PIMは依然として検証段階にある。Samsung Electronicsは過去に、HBMへPIMを適用しAMDのGPUアクセラレータカードに搭載した結果、性能が2倍に向上し、エネルギー消費が50%減少したと発表したことがある。

SK hynixも、GDDR6ベースのアクセラレータ「AiM」と、それを組み合わせたカード「AiMX」を披露している。ただ、コンパイラを含むソフトウェア支援がなお課題として残っており、サーバーへの適用は特定ワークロードに限られている。

HBFも新たな選択肢として浮上している。NANDフラッシュをHBMのように垂直積層し、大容量データをGPU近傍に配置する構造だ。応答速度はDRAMに比べて1000倍以上遅いものの、大量データを一括転送する用途に最適化できるため、推論中心の環境で可能性が注目されている。

SK hynixとSanDiskは8月のFMS 2026で、OCP経由で初の標準仕様を公開した。2スタック構成を基準に最大512GBの容量を想定し、グレード別に0.4～3.0TB/sの帯域幅を提示。インターフェースにはUCIeを採用した。GoogleとTenstorrentもコンソーシアムに参加している。

商用化の目線は2027年前後に集まりつつある。SK hynixとSanDiskは今年下半期のサンプル出荷に続き、2027年初めにHBFを搭載した初のAI推論システムを披露する計画だ。

Samsung Electronicsは、NANDフラッシュ首位の地位を生かし、2027年の本格量産を目標に据えている。

こうした技術転換は、後工程やテスト分野にも波及する見通しだ。ユアンタ証券は、新たなメモリ構造の導入によってテスト装置やソケット、ボード、ピンなど消耗材の仕様変更が進み、関連企業の平均販売単価（ASP）改善につながる可能性があると分析している。

最終的な焦点は、サプライチェーン全体のエコシステムがこうした新技術をどこまで受け入れられるかにある。業界では、NVIDIAがCXLを積極的に採用しなければ、普及ペースが鈍る可能性があるとの見方が出ている。

HBFにも、NANDの書き換え寿命が約10万回にとどまる耐久性の問題や、アクセス遅延という課題が残る。業界関係者は「ハードウェア競争とは別に、それを支える運用システムがエコシステム全体に広がるかは別の問題だ」と話している。