Kakaoは7月28日、自社開発のAIモデル「Kanana」シリーズの軽量言語モデル(SLM) 4種をHugging Faceで公開した。オンデバイス利用を想定したモデルをオープンソースで提供し、技術競争力の強化とエコシステム拡大につなげる狙いだ。
公開したのは「Kanana-2」シリーズの「Kanana-2-1.3B-base」「Kanana-2-1.3B-instruct」「Kanana-2-3B-base」「Kanana-2-3B-instruct」の4モデル。スマートフォンなど、メモリや演算資源に制約のある端末環境での動作を想定している。
Kakaoによると、今回公開したモデルは小型ながら、韓国語と英語の双方でグローバル水準の性能を実現した。類似規模の最新オープンソースモデルと比べても、韓国語、英語、知識、数学、コードなど主要ベンチマークの多くで優れた結果を示したとしている。
あわせて開発した、より小型の「Kanana-2-0.9B-instruct」についても、対話、知識、コード、数学、指示追従、ツール呼び出しといった実サービスでの活用能力において、「Qwen」や「Gemma」など同クラスのグローバルモデルに対抗できる水準の指標を示したとしている。
また、同社は自社開発の韓国語特化トークナイザーを適用し、従来比で韓国語の処理効率を30%以上高めた。トークナイザーは、AIモデルがテキストを処理する際の分割単位を決める中核技術。韓国語に最適化することで、同じ文章をより少ない単位で処理でき、速度向上や動作コストの低減につながる。Kakaoは昨年開発を完了した韓国語特化トークナイザーを、今回のモデル全体に適用した。
今回のラインアップは、オンデバイス環境向けに最適化した点も特徴だ。長文の対話でメモリ消費が増えやすい課題に対応するため、「スライディングウィンドウアテンション」構造を採用した。最大32K(3万2000トークン)の長い対話でも、メモリ使用量を最大72.7%削減しながら安定した性能を維持できるとしている。
公開モデルは、商用利用を認める「Kananaオープンライセンス」で提供する。開発者や研究機関、企業が幅広く活用できるようにすることで、韓国国内における高性能な韓国語AIモデルの活用基盤拡大や、新たなサービス開発の活性化につなげたい考えだ。社内ではすでに、開発過程で蓄積した技術を「Kanana in KakaoTalk」「KakaoTalkの対話要約・通話要約」「AI国民秘書」などの実サービスに適用しているという。
Kakaoのノ・ビョンソク氏(ユニファイド・ファウンデーション・モデル成果リーダー)は、「エージェンティックAI時代に向け、クラウド上の大規模AIとオンデバイスの軽量AIの双方が重要になっている」とコメント。「Kakaoは両領域で技術競争力を高めており、今回公開したモデルが、より多くの開発者や企業による新たなAIサービス開発につながり、国内AIエコシステムの活性化に貢献することを期待している」と述べた。