Qualcommは11日、次世代プレミアム向けモバイルプラットフォームに搭載する「Hexagon NPU」の設計と性能指標を公表した。スマートフォン上でエージェントAIを動かすことを見据え、アーキテクチャを刷新。共有メモリを最大50％拡大し、新たな演算アクセラレータも加えることで、レイテンシーの低減とオンデバイス推論の強化を狙う。

同社は、エージェントAIでは単一の大規模モデルよりも、用途や状況、利用者に応じて最適な特化型モデルを切り替える方式が有効だと判断した。これを踏まえ、NPUに新たな演算アクセラレータを追加するとともに、共有メモリ容量も拡大した。

生成AIやエージェントAIで広く使われるトランスフォーマー系モデルの演算は、新アクセラレータ「Element Accelerator」が担う。大規模モデルの処理は、ベクトル拡張とスカラー拡張の両機能で加速する。ベクトル拡張は大量のAI数値演算を、スカラー拡張はエージェントの判断やタスク配分、調整ロジックを支える。Qualcommは、電力効率を維持しながら、AIエージェントの応答と推論を高速化できるとしている。

AIモデルは回答生成時、会話の文脈や直前の計算結果を保持したKVキャッシュを継続的に参照する。NPU内で容量が不足すると、DDRメモリとの間でデータ転送が発生し、遅延の要因となる。共有メモリを最大50％増やしたことで、こうしたデータをNPU内により多く保持できるようになった。これによりDDRアクセスを減らし、レイテンシーを抑えるとともに、空いたメモリ帯域をほかの処理に振り向けられるという。

メモリ容量に余裕が生まれることで、NPUは推論処理により専念できるようになる。Qualcommによれば、オンデバイスモデルはより長いコンテキスト処理や複数ツールの利用、並列タスクへの対応が可能になる。質問と文脈をまとめて読み込む初期段階の「プリフィル」性能は、4ビットに軽量化したInt4モデル基準で50％向上した。最初のトークンを出力するまでの時間は、40億パラメータのモデルで1.5秒未満としている。

開発者は、性能、メモリ、モデル品質、消費電力のバランスを調整できる。量子化精度はInt2、Int4、Int8、FP8、FP16をサポートする。入力に応じて複数のエキスパートネットワークから必要なものだけを選んで動かすMixture of Experts（MoE）モデルにも対応する。全ネットワークを毎回動作させる従来型と比べ、演算量とメモリ負荷を抑えられるとしている。

同社はメモリ関連企業やモデル関連企業と連携し、一部のエキスパートをフラッシュストレージから呼び出す方式も開発している。エキスパート全体については必要時に利用できる状態を維持しながら、タスクごとに約30億パラメータのみを有効化する構成だという。特殊なキャッシング手法と組み合わせた「Intelligent Flash-to-Memory Expert Management」により、より少ない電力とメモリで大規模モデル級のAI体験を実現するとしている。

Qualcommは今回のHexagon NPU公表により、エージェントAI対応に向けた次世代SnapdragonのCPU、GPU、NPUに関する主要情報の開示をおおむね終えたとしている。「Oryon」CPUは、段階ごとの計画、推論、調整を統括し、クラウドAPIを必要とする処理は外部にオフロードする。プライムコアは各5GHzで動作し、新たなキャッシュ構造「Flex Cache」を採用した。「Adreno」GPUはNPUとともに、複数モデルが端末上で同時に動作するハイブリッド環境でのAI推論を担う。詳細は「Snapdragon Summit 2026」で公表する予定だ。