Rebellionsは7月23日、国産AI半導体と大規模言語モデルを組み合わせ、高性能GPUサーバー級のAIインフラ性能を単一サーバーで実現したと発表した。SK TelecomのAI基盤モデル「A.X K1」を自社のAI半導体サーバー「リベルサーバー」で稼働させ、複数ユーザーからの同時リクエストを処理するエージェントサービスのデモを公開した。

今回の実証では、大規模AIサービスの運用に必要なインフラ効率を検証した。Rebellionsによると、パラメータ数が5000億を超える国内最大級の言語モデルを、単一のリベルサーバー上で安定的に動作させたという。

狙いは、1台のサーバー内で演算を効率的に処理し、データセンターの構築・運用負担を抑えることにある。同社は、この構成で高性能GPUサーバー級のインフラ能力を確保したとしている。

A.X K1は、採用例の多いMixture of Experts（MoE）方式を採用し、大規模モデルでも計算効率を確保した。これに合わせてRebellionsは、多様な演算を半導体チップに最適化した形で分散処理する専用ソフトウェアを開発したと説明した。

この技術により、複数のリクエストが同時に発生しても、ボトルネックを抑えつつリアルタイムで処理できるとしている。

今回のデモでは、地図ベースのエージェントサービスも披露した。複数のユーザーが同時に接続し、それぞれが「週末に利用できる薬局」といった質問を投げかけても、A.X K1が遅延なく処理し、地図上に即時表示したという。

同社は、国産AI技術のみで、多数のユーザーが同時利用する公共向けAIエージェントサービスに対応できることを示した事例だとしている。

Rebellionsは、科学技術情報通信部の独自AI基盤モデル事業に、SK Telecomコンソーシアムの一員として参加している。約1年にわたり「A.ドット 電話 通話要約」など大規模なリアルタイムAIサービスを運用してきた実績を踏まえ、政府の「みんなのAI」プロジェクトでも国産NPUインフラのパートナーとして貢献する計画だ。

パク・ソンヒョンCEOは今回の実証について、「国産の大規模モデルと国産NPUの組み合わせだけで大規模AIサービスを運用できることを示した、ソブリンAIの実質的な事例だ」とコメントした。その上で、インフラ効率と実用性を同時に示した点に意義があるとし、今後もSK Telecomとともに、日常生活の中で誰もがAIを利用できる韓国型AIインフラの構築を進める考えを示した。