韓国科学技術院（KAIST）は9日、電気・電子工学部のチョン・ミョンス教授とFANESIAの研究チームが、Metaの研究チームと共同で、次世代AIデータセンターのアーキテクチャを提案するレビュー論文を国際学術誌「Nature Reviews Electrical Engineering（NREE）」に掲載したと発表した。

論文では、CXL（Compute Express Link）を基盤に、CPU、AIアクセラレータ、メモリを一体で接続し、その適用範囲をデータセンター全体へ広げる構想を示した。CXLは、CPUやアクセラレータ、メモリといった異種のコンピューティング資源を高速に接続・共有できる国際標準技術として知られる。

近年は、1回のAI処理で数千基規模のアクセラレータを同時に使うケースが増えている。一方で、アクセラレータの台数が増えるほど装置間のデータ転送遅延が大きくなり、システム全体の性能低下を招きやすい。このため、アクセラレータとメモリを効率よく接続する技術の重要性が高まっている。

従来のデータセンターは、複数のサーバーをネットワークで接続して処理を分散する構成が一般的だった。これに対し、今回の提案はサーバー単位の境界を薄め、CPU、アクセラレータ、メモリを密接に結び付けるのが特徴だ。データセンター全体を1台のコンピュータのように動作させる考え方になる。

複数のアクセラレータを高速接続する技術としては、NVIDIAのNVLinkやUALinkがある。ただ、いずれも主にラック内の接続を想定したものだ。今回の構想ではCXLを土台に、アクセラレータだけでなくCPUやメモリまで接続対象を広げ、データセンター全体に適用する点が異なる。

研究チームによると、この構成では単一の接続ドメインに最大960基のアクセラレータを接続できる。現行のNVLinkベースのラック構成に比べて約13倍の規模に相当するという。データ移動の遅延も、従来のネットワークベースの構成で一般的なマイクロ秒（μs）単位から、数百ナノ秒（ns）レベルまで抑えられると分析した。

資源利用の効率化にもつながるとしている。CPU、アクセラレータ、メモリをそれぞれ独立した資源として接続できるため、障害が発生した部品のみを交換したり、未使用の演算資源やメモリ資源を別の処理に振り向けたりしやすくなる。

チョン・ミョンス教授は「AIの大規模化が進むほど、多数のアクセラレータとメモリをいかに高速かつ効率的に接続するかが重要になる」とコメント。「今回の研究は、CXLを基盤にデータセンター全体を1つのコンピューティングシステムのように動作させる次世代AIインフラの方向性を示した点に意義がある」としている。