政府の「独自AI基盤モデル」事業に参加する4陣営が、2次評価に向けた準備を終えた。大手2社は海外の大規模オープンウェイトモデルに迫るパラメータ規模を確保し、スタートアップ2社はモデル効率と業務遂行力の向上に軸足を置いた。

業界関係者によると、Motif Technologiesは3日、2次評価の成果報告書を提出した。これに先立ち、LG AI Research、SK Telecom、Upstageも報告書を提出しており、4陣営すべてが2次評価の準備を完了した。

4陣営はいずれも、Mixture of Experts（MoE）方式を採用した。モデル内部に複数の専門家モジュールを配置し、入力に応じて必要な一部だけを動かす仕組みだ。モデル全体の容量を拡大しながら、応答生成に必要な計算量を抑えられる。

MoEモデルは、モデル全体の規模を示す総パラメータに加え、推論時に実際に使われるアクティブパラメータの両面から見る必要がある。

大手2社は600B超の中大型モデルを提示した。同規模の海外モデルとしては、DeepSeek R1（総671B、アクティブ37B）がある。LG AI ResearchのK-EXAONE 2.0は総750Bのうち約37Bをトークンごとに活性化し、SK TelecomのA.X K2は総688Bのうち33Bを活性化する。

一方、スタートアップ2社は300B前後のモデルを選んだ。UpstageのSolar Open 2は総250Bのうち15B、Motif 3 Preview Betaは総314Bのうち約13Bを活性化する。4月に公開されたDeepSeek V4 Flash Preview（総284B、アクティブ13B）に近い規模だ。

LG AI Researchは4陣営の中で最も積極的にモデル規模を拡大した。K-EXAONE 2.0の総パラメータは、1次モデルの236Bから3倍超に増えた。

情報を段階的に処理する演算レイヤーは48から78に増やし、各MoEレイヤーに配置する専門家モジュールも128から256へ拡大した。アクティブパラメータも23Bから37Bに増やした。

学習済みモデルの重みを新モデルの出発点に使う「アップサイクリング」方式も採用した。前世代モデルの知識を引き継ぎながら、演算の深さとモデル容量を同時に高められるとしている。

社内評価では、性能も全般に向上したという。K-EXAONE 2.0は24指標の平均で70.1点を記録し、1次モデルの63.3点を10％超上回った。コーディングとエージェント型コーディングに関する主要3指標の平均性能は約30％改善した。

LG AI Researchは、このモデルを足がかりに次段階で兆規模パラメータモデルの開発に挑む計画だ。

イム・ウヒョンLG AI Research共同研究院長は「国内研究陣が750B級モデルの設計からデータ学習、分散学習、推論環境の構築まで全工程を独自に完遂した点に意義がある」とした上で、「グローバルのフロンティアモデルと同規模で競争できる力量を確保した」と述べた。

SK Telecomは、2次モデルのA.X K2で1次モデル比約30％の大型化を図る一方、推論時の演算負荷やメモリ負担の抑制に重点を置いた。専門家数を増やして総パラメータを519Bから688Bへ拡大した一方、トークンごとに動くアクティブパラメータは33Bに据え置いた。

学習データは量より質を重視した。前世代モデルでは10兆トークンを学習したが、A.X K2では約8兆5000億トークンを使用した。その代わり、学習後半ほど品質と難度の高いデータを重点的に投入したという。

長文処理に必要な計算量の削減にも取り組んだ。SK Telecomが開発した「Sparse Gate Attention（SGA）」は、現在の質問と関連性の高い情報だけを選んで参照する仕組みだ。文書全体を同じ重みで見直す必要がなく、入力が長くなるほど処理負荷を抑えられるとしている。

A.X K2の技術報告書によると、SGA適用後も長文理解のスコアは同等水準を維持した。一方で、長い入力の処理速度は向上し、初回応答までの時間や、その後のトークン生成時間は前世代モデルより短縮した。

SK Telecomは今後、後続モデルの兆規模化を進めるとともに、量子化と国産NPUへの最適化を並行して進める計画だ。量子化したA.X K2の推論メモリ使用量は、A.X K1の3分の1水準だとしている。

SK Telecom関係者は「オープンソースモデルでもパラメータが1兆を超える事例が増えており、グローバル競争には大規模モデル開発が必要だ」とした上で、「量子化などによる推論効率化で、モデル大型化に伴う負担を減らせる」と話した。

Upstageは、Solar Open 2で最大100万トークンのコンテキストウィンドウに対応しつつ、長文処理コストを抑えたと明らかにした。前段の文脈を圧縮して処理する線形アテンションと、単語間の関係を緻密に計算する従来のソフトマックスアテンションを組み合わせ、全レイヤーに従来方式のみを適用した場合に比べ、長文処理に必要なメモリと計算量を約4分の1にしたとしている。

同社は韓国語トークナイザーも強みとして挙げた。自社の韓国語事務業務評価入力では、1トークン当たり4.41バイトの情報を含み、比較対象となった海外モデルの中で最も効率的なモデルより韓国語情報量が約24％多かったという。同じ文書をより少ないトークンで処理でき、対話や作業記録が蓄積する長時間業務でコスト削減につながるとしている。

業務を遂行するAIエージェントの能力強化にも力を入れた。ツール利用、コーディング、文書作成など、業務別に訓練した12の専門モデルの学習結果を1つに統合した。複数回の推論やツール呼び出しが必要な作業を最後まで処理させる狙いだ。

社内評価環境で測定した9つの韓国語ベンチマーク平均は、Solar Open 2が85.4点、DeepSeek V4 Flash Previewが84.9点だった。英語評価では、知識・推論、コーディング、エージェントなどの項目ごとに両モデルが優劣を分けた。近いパラメータ規模で韓国語性能と業務遂行力を強化したというのが同社の説明だ。

キム・ソンフンUpstage代表は「Solar Open 2は単なるベンチマークスコアではなく、実際の業務現場で自律的に仕事を完遂するエージェントの使い勝手を重視して設計したモデルだ」と述べた。

Motif Technologiesは、モデル設計の効率性を差別化要因として掲げた。2次評価モデルに先立って公開したMotif 3 Preview Betaは、AI評価機関Artificial Analysisが9つの評価結果を合算した総合指標「AAII」で44点を獲得した。総パラメータは1.6Tで、Motif 3の約5倍に当たるDeepSeek V4 Pro（Max）と同点だった。

Motif 3 Preview Betaは、総314Bのうち実際に活性化するのは約13Bにとどまる。DeepSeek V4 Proのアクティブパラメータ49Bと比べると、応答生成時に使われる規模は約4分の1だ。より小さいモデルで、より少ない活性演算により同じ総合点を記録したことになる。

同社は、海外のオープンソースモデルの構造を流用せず、アーキテクチャから自社設計し、一から学習した「フロム・スクラッチ」のモデルでこの結果を出した点を強調した。会社説明によると、研究陣約30人がGPU約700基を使い、5カ月でプレビューモデルを開発したという。

今回の成績は、2次評価に提出した最終モデルではなく、中間段階のモデルを対象にしたものだ。最終提出モデルの性能は現時点で公表されていない。

イム・ジョンファンMotif Technologies代表は「ベータモデル比での性能向上を見込んでいる。今回の結果はグローバル先導モデルに向けた中間段階だ」と述べた上で、「継続的な研究開発でモデル性能を高度化し、韓国のAI技術競争力を世界市場で実証したい」と付け加えた。

政府は、ベンチマーク、専門家評価、国民評価団200人によるユーザー評価などを総合し、4陣営のうち3陣営を次段階に進むチームとして選ぶ方針だ。国民評価団による評価は8日から11日まで実施する。