LG AI研究院、SK Telecom、Upstageの3社は9日、NVIDIAのプラットフォームやソフトウェアを活用した基盤モデルの開発・運用事例を公開した。NVIDIAも同日、国内AIモデル4種に対応した推論最適化技術を公表し、ソブリンAI分野での協業拡大を打ち出した。

ソウル・サムソンドンのCOEXで開かれた「NVIDIA AI Day Seoul 2026」のパネル討論「K-AIフロンティア・ビルダーズ」には、独自の基盤モデルを手がけるLG AI研究院、SK Telecom、Upstageの研究陣が参加した。

討論では、NVIDIAの推論最適化ソフトウェア「Dynamo」が主要テーマの1つとなった。複数のGPUサーバに推論処理を分散し、演算結果の再利用を通じて処理速度とリソース利用効率を高める技術だという。

Upstageは、Dynamoの導入によってAIサービスの運用効率を高めたと説明した。AIがすでに計算した情報を一時保存し、重複計算を減らす「KVキャッシュ」の管理で効果があったとしている。

Upstageで大規模言語モデル（LLM）のテックリードを務めるソン・インソ氏は、「Dynamoの導入により、KVキャッシュ管理などで多くのメリットを得た。限られたリソースでもスループットを大きく引き上げられた」と述べた。

LG AI研究院も、NVIDIAとの推論最適化分野での協業経験を紹介した。大規模なAIサービスでは、ユーザーの要求を適切なサーバへ振り分ける技術が重要になると強調した。

LG AI研究院のExaone Labチーム長、チョ・ヒョンジク氏は「単一サーバで処理するのではなく、どのサーバにクエリをルーティングするかが重要だ。今後、サービス規模が大きくなるほど、ルーティングの能力はより重要になる」と語った。

さらに、「単一モデルにとどまらず、複数モデルをオーケストレーションし、同等の回答品質を維持したまま応答する技術の重要性が高まる」との見方を示した。

3社は、推論だけでなく学習データの処理やモデル学習の工程でもNVIDIA技術を活用している。

SK Telecomは、学習データ内の重複文書を除去するNVIDIAの「NeMo Curator」を導入し、データ処理期間を大幅に短縮したと明らかにした。

SK Telecomの研究員、ヤン・ヒョンホ氏は「重複文書の処理には通常2〜3週間かかるが、NeMo CuratorのGPUアクセラレーションを使うことで約3日まで短縮できた」と説明した。

ヤン氏はまた、大規模AIモデルの開発では学習効率がコストに直結すると指摘した。「学習速度が10％向上するだけで、GPU使用時間ベースでは約6日短縮でき、金額に換算すると6億ウォン（約6600万円）に相当する」と述べた。

LG AI研究院は、大規模AIモデルの学習と変換を支援するNVIDIAの「Megatron Bridge」の活用事例も紹介した。

チョ氏は「Megatron Bridgeを導入したことで、グループ会社がExaoneモデルをより手軽かつ迅速に学習できるようになった。グループ全体の効率向上に寄与した」と話した。

Upstageは、演算精度を抑えて処理効率を高めるNVIDIAの量子化技術「NVFP4」も活用している。ソン氏は、量子化によってモデル性能が低下する可能性があるため、精度が重要な部分では高い精度を維持する形で運用していると説明した。

NVIDIAは同日、SK Telecomの「A.X K2」、LG AI研究院の「K-Exaone 2.0」、Upstageの「Solar Open 2」、Motif Technologiesの「Motif-3」の4モデル向けに、Dynamoの最適化技術を公表した。

NVIDIAが示した社内試験結果によると、B200 GPU環境で最適化技術を適用した後、GPU当たりの出力スループットは従来比でA.X K2が1.72倍、K-Exaone 2.0が1.58倍、Solar Open 2が1.43倍に向上した。Motif-3は別途の分散推論環境で3.67倍改善したという。

このほか会場では、NVIDIA、SK Telecom、Rebellionsの3社が「NVLink Fusion」に関する協力に向けた業務協約を締結した。

韓国・科学技術情報通信部は協約締結を祝うとともに、NVIDIAと共同で「AIスタートアップ・パートナーシップ・フォーラム」を開催した。今回の協約は、同部とNVIDIAが協議してきた国内ニューラルネットワーク処理装置（NPU）との連携協力の一環。フォーラムは、国内AIスタートアップの海外進出支援を目的に設けられた。