パラメーター数10兆規模に迫る超大規模モデルの開発競争が続く一方で、軽量モデルを巡る競争も激しさを増している。AI導入コストの上昇を背景に、基礎的な業務では費用対効果の高いオープンソースモデルを採用する企業が増加。PC上で動作するローカルLLMへの関心が急速に高まっている。
こうした流れの中で、大手各社の動きも活発だ。中国のDeepSeek、米Metaは、PCに導入して利用できる一定性能のモデルを相次いで投入。NVIDIAもローカル環境向けAIモデルの拡充を進めている。
DeepSeekは7月末、コーディング向けの新モデル「V4 Flash」を投入した。パラメーター数は3040億。フラッグシップモデル「V4 Pro(DeepSeek-V4-Pro) Preview」は1兆6000億規模で、V4 Flashはそれより小型ながら、大規模モデル級の性能を備えるとして開発者の注目を集めている。
報道によれば、V4 Flashは微調整を最小限にとどめながらも、V4 Pro Previewを大きく上回る性能を示し、「Claude Opus 4.8」に近い水準に達したという。複雑なコーディングや自律型ソフトウェア作業のテストではAnthropicのClaude Opus 4.8と同等の成績を記録し、Arenaのフロントエンド・コーディング・リーダーボードではOpus 4.8を上回ったとされる。
価格競争力の高さも評価材料だ。Claude Opus 4.8の出力の価格が1分当たり25ドルとされるのに対し、DeepSeekのV4 FlashのAPI価格は28セント。99%安い水準だという。
V4 Flashが民生向けハードウェアでも動作可能な点も話題を呼んでいる。最先端のAIモデルでは、数百GB規模のGPUメモリを備えたサーバーが必要とされるケースが多いが、V4 Flashは高性能PCでも十分に動作するとみられている。
Redisデータベースシステムの創始者で、「antirez」の名でも知られる開発者サルバトーレ・サンフィリポ氏は、小型コンピュータ向けモデルとしてGLM 5.2からV4 Flashへの切り替えを検討していると明らかにした。
Metaは、より幅広い利用を想定したローカルAI戦略を打ち出した。ノートPCで動作する新モデル群「Muse Glimmer」を投入する計画だ。
Muse Glimmerはパラメーター数300億のモデルで、重みはApache 2.0ライセンスで配布される。開発者はダウンロードして修正できる。複数段階の作業を担うAIエージェントを想定して設計されており、MacやPCで単一GPUを使って動作する。ツール呼び出し、コード作成・デバッグ、ファイルやスクリーンショットの処理、長時間のワークフロー実行などに対応し、テキストと画像を扱える。学習言語は100以上という。
MetaはMuse Glimmerの投入にあたり、プライバシー面の利点も強調した。データをクラウドへ送らず、ユーザー端末内で処理することで、個人情報を扱うパーソナルエージェントの基盤にする構想だ。具体例として、予定管理、メッセージの下書き作成、ファイル整理などを挙げている。
マーク・ザッカーバーグCEOは、「パーソナルエージェントは24時間体制で、利用者に代わって人間関係、健康、キャリア、財務、家庭管理、趣味などを支援するようになる。誰もが無料、または手の届く価格でこうしたツールを使えるようになる」と述べた。
一方で、PCでMuse Glimmerを利用するにはなおハードルも残る。動作には最低24GBのVRAMを搭載したGPUが必要で、企業にとっては大規模導入の障壁になる可能性がある。
Computerworldは、企業のローカル運用への関心はアナリストやコンサルタントの間でおおむね一致している一方、クラウドからローカルへの移行が財務的に妥当かどうかの判断ははるかに複雑だと報じた。今後12〜18カ月でRAM価格とクラウド価格がどう動くかが重要な変数になるという。
NVIDIAも、無償でダウンロードし、利用・改変できるオープンソースAIモデル「Nemotron 3.5 Lightning」を公開した。軽量モデルで、PCのGPUでも動作する。
Nemotron 3.5 Lightningは、パラメーター数300億のMoE(専門家混合)構造を採用したモデルで、バックグラウンドで自律動作するAIエージェント向けに開発された。Hugging FaceとNVIDIAのWebサイトで提供する。企業は自社ハードウェア上でNVIDIA NeMoを使い、社内ドメインのデータやツール、ワークフローに合わせた追加学習を進められる。