Motif Technologiesは8月13日、独自開発のAI基盤モデル「Motif 3」が、AIモデル評価機関Artificial Analysisの総合知能指数(AAII)で47点を獲得したと発表した。世界の大規模言語モデル(LLM)全体で9位、オープンウェイトモデルでは4位に入り、国内企業開発モデルとしては最高得点だったとしている。
同社はあわせて、Motif 3のモデル重みと学習コードなどをHugging Faceでオープンソース公開した。ライセンスはMITで、企業や研究機関、開発者は商用目的でも利用できる。
AAIIは、「独自AI基盤モデル」プロジェクトの第2次評価でも、主要な外部ベンチマークに位置付けられている。第2次評価は100点満点で、このうちベンチマーク評価が40点、さらにAAIIには25点が配分されている。
同社によると、Motif 3は総パラメータ数3140億のうち132億を有効化する、専門家混合(MoE)構造のLLMだ。事前学習からポストトレーニングまで約5カ月をかけ、ゼロから構築したという。
公開した技術レポートでは、独自のアテンション構造「Grouped Differential Latent Attention(GDLA)」を採用し、約12兆5000億トークンで事前学習したと説明している。
実務系ベンチマークでも、海外の主要オープンウェイトモデルと肩を並べる性能を示したとしている。金融業務環境におけるAIエージェントのタスク遂行能力を測る「τ³-Banking」では35.3点、ターミナル環境でのコーディングやシステム作業能力を評価する「Terminal-Bench 2.1」では74.9点を記録した。
このほか、ソフトウェアエンジニアリング性能を測る「SWE-bench Verified」では76.2点、高難度の知識評価ベンチマーク「Humanity's Last Exam」では37.0点を獲得した。
同社は、言語モデルに加え、ビジョン70億、オーディオ7億、動画VAE12億規模のモジュールも開発した。今後はこれらを言語モデルと統合し、マルチモーダルモデルへ拡張する計画だ。
Motif Technologiesのイム・ジョンファン代表は「Motif 3は、短期間かつ限られた資源の中でも、独自アーキテクチャだけでグローバルに競争できる水準に到達できることを示した出発点だ」とコメントした。その上で「同じ条件が与えられたとき、どこまで到達できるかは、これから証明していく」と述べた。