NHN Cloudは6日、ソウル市永登浦区のAIデータセンター「FactoryX Seoul」を報道陣に公開した。NVIDIAのB200 GPUを計7656基整備し、このうち4080基を510ノードの単一クラスタとして運用する。大規模GPUクラスタの構築力を軸に、AIインフラ市場で競争力を高める考えだ。
同社は、大量のGPUを単一の計算環境として束ねるクラスタリング技術を中核競争力に位置付ける。これに加え、直接液冷(DLC)や専用のネットワーク・セキュリティ機器を組み合わせ、安定した運用体制を整える。
NHN Cloudの技術事業部長イ・イルジュン氏は同日のデータセンターツアーで、「最大の競争力は規模だ」と述べた。数千基規模のGPUを確保するだけでなく、大規模クラスタとして実際のAI学習に使える形で構成し、安定運用まで担えることがAIインフラ事業者の差別化要因になると説明した。
FactoryX SeoulにはB200 GPUを計7656基配備した。このうち3階と4階にそれぞれ255ノードずつ、計510ノード・4080基を単一クラスタとして接続している。NHN Cloudによると、当初は2クラスタ構成を想定していたが、政府側がより大規模な単一クラスタを求めたため、1つに統合したという。
大規模AI学習では、複数のGPUが1つの処理を分担する。このため、GPUの台数だけでなく、高帯域のネットワークやストレージ、クラスタ運用技術も重要になる。NHN Cloudは、510ノードクラスタの演算性能を高性能Linpack(HPL)で測定した結果、スーパーコンピューターランキング「TOP500」で世界20位に相当する水準を記録したと明らかにした。
こうした規模を支える上で、電力と冷却は重要な要素となる。NHN Cloudは、AI学習向けインフラでは、超低遅延が求められるサービスとは異なり、データセンターの立地条件よりも、大規模な電力とGPU資源を1カ所に集約できるかどうかが重要だとみている。
イ・イルジュん氏は、大容量データを一度転送した後、長時間にわたって学習を続けるAIワークロードの特性を踏まえると、首都圏か地方かという立地差の影響は相対的に小さいと説明した。FactoryX Seoulの選定でも、場所そのものより、必要なタイミングで大規模電力を確保できる点を重視したという。
高密度GPU環境に対応するため、同社は直接液冷も導入した。FactoryX Seoulは当初、空冷方式のデータセンターとして設計されていたが、B200を大規模配備するため、約5カ月をかけて水冷配管と冷却設備を追加した。CPUとGPUチップは冷却プレートを直接接触させて放熱し、メモリ、ネットワーク機器、ストレージは従来の空冷方式で冷却する。
同社は、水冷の導入が電力効率だけでなく運用安定性の面でも重要だとみる。GPUは温度上昇時に性能を自動的に下げたり、一定水準を超えると動作を停止したりするため、大規模クラスタほど冷却性能が実効的な演算性能に直結するためだ。
イ・イルジュん氏は「運用で最も大変なのは障害だ」とも述べた。障害が発生すれば、顧客業務が停止し、苦情対応や賠償責任につながる可能性があるという。NHN Cloudは、水冷環境では空冷に比べて機器障害の可能性が低いとみている。
セキュリティも、政府主導の大規模AIインフラ運用における中核要素と位置付ける。NHN Cloudは、政府機関や産学研の利用機関ごとのセキュリティ要件に対応できるよう、政府予算で整備したGPU資源を既存クラウドとは分離したネットワーク上で運用する。ファイアウォールやDDoS対策機器、侵入防止システム(IPS)も別途構築した。複数のセキュリティ認証を取得し、クラウドサービスの安全性について第三者認証を受けていると説明した。
整備した資源は、実際の政府AI事業にも投入している。先月までに、510ノードおよび255ノードのGPU資源を、企業や研究所、大学など約200の産学研機関に提供した。現在は「独自AIファウンデーションモデル」プロジェクトの参加企業向けに利用対象を切り替えて運用している。
FactoryX Seoulは、科学技術情報通信部と情報通信産業振興院(NIPA)のAIコンピューティングインフラ事業の一環として整備された。NHN Cloudは、約1兆ウォン規模でAIインフラの調達・整備と今後5年間の運用を担う。事業構造上、政府が保有するGPUの一部は、NHN Cloudが自社の研究開発や民間顧客向けサービスに活用できる。
一方で、大規模GPU投資を民間AIインフラ事業の拡大につなげるには、長期需要の確保が課題となる。GPUは初期投資負担が大きいうえ、製品更新のサイクルも速い。このため、稼働率が低下すれば事業者の負担が膨らむ可能性がある。
イ・イルジュん氏は、政府が一定規模の資源を賃借する計画をあらかじめ示せば、クラウド事業者も投資判断を下しやすくなると述べた。大規模GPU投資を継続的に拡大するには、長期需要の予見可能性が欠かせないとの認識を示した。