ミラ・ムラティ氏(ThinkingMachinesLab CEO) 写真=同氏のXアカウント

ThinkingMachinesLabは20日(現地時間)、ノートPCでも動作する軽量AIモデル「Inkling 2 Mini」を公開した。オープンウェイトモデルとして提供し、コーディング用途で高い性能を打ち出す。

Inkling 2 Miniは、モデルの重みを一般公開するオープンウェイト形式で提供する。Mixture of Experts(MoE)を採用し、総パラメータ数は264億、実際に動作するパラメータ数は34億という。

同社によると、Inkling 2 Miniは「ループトランスフォーマー(looped transformer)」をベースに設計されており、少ないトークン数で応答できる。推論性能が重視されるAIエージェントのコーディング用途で強みを発揮するとしている。

性能面では、総パラメータ数1000億未満のオープンウェイトモデルの中で、コーディング評価「DeepSWE v1.1」で48.2%を記録し首位だった。同社は、同程度の性能を持つモデルより高速だとしている。

メモリ使用量は約20GB。同社は、研究チームが機内でインターネット接続なしにMacBook Pro上でモデルを動かし、数分でフライトシミュレーターのゲームを開発したと説明した。

スタンフォード大学の研究チームによる測定でも、高い効率が確認されたという。NVIDIA DGX Sparkでエネルギー当たりの性能指標は0.703となり、Qwen3.6-35B-A3Bの0.430を上回った。

一方で、制約もある。ループ構造は推論性能の向上に寄与する一方、モデルが保持できる知識量そのものを増やすことはできない。同社は、検索や各種ツールを効率的に組み合わせることでこの弱点を補ったと説明している。複数ターンの対話や、条件の多い指示への対応では、Qwen3.8-27Bに及ばなかった。

Inkling 2 MiniはHugging Faceで利用できる。RAM 32GB以上のMacであれば、AIモデルを端末に直接ダウンロードして実行できる無料プログラム「Ollama」でも動作する。

キーワード

#人工知能 #AIモデル #オープンウェイトモデル #MoE #コーディング評価 #Inkling 2 Mini #ThinkingMachinesLab #Ollama #Hugging Face
Copyright © DigitalToday. All rights reserved. Unauthorized reproduction and redistribution are prohibited.