【マウイ(米国)】Qualcommは、小型AI機器のメモリ制約を和らげる手段として、Snapdragon AR1で1ビットモデルへの対応を進める。AIグラスなどで必要なDRAM搭載量を抑え、部材コストの低減につなげる考えだ。
背景には、メモリ需給の逼迫がある。DRAMを多く使うウェアラブルほどコスト負担が重くなっており、各社はソフトウェア最適化を通じて端末ごとのメモリ使用量を減らしている。Qualcommはこれに加え、AIモデルそのものを軽量化するアプローチを打ち出した。
Qualcommのジアド・アスガル シニアバイスプレジデント兼XR・ウェアラブル・パーソナルAI本部長は23日(現地時間)、「Snapdragon Summit」の「Personal AI・Sound」メディアQ&Aで、業界全体でメモリが課題になっているとした上で、小型機器では搭載できるメモリ容量の制約がより大きいと説明した。イヤホンでは電子部品コストに占めるメモリの比率が小さく影響は限定的だが、DRAMへの依存度が高い機器ほど影響は大きく、AIグラスはその中間に位置するという。
AIグラスメーカーは、まずソフトウェア最適化で対応している。アスガル氏は「以前は4GBのDRAMを搭載するグラスが多かったが、最近は2GBの製品が増えている」と述べ、「さらに削減する取り組みも進んでいる」と話した。足元では各社ともコード最適化に注力しているという。
その先の手段として、Qualcommは1ビットモデルを提示した。AIモデルが演算に使う数値の精度を1ビットまで落とし、モデルサイズを小さくする手法で、メモリ制約の厳しい小型機器で特に有効だとみる。アスガル氏は「必要なメモリ容量を大きく減らせるため、こうした機器の部材コストの圧縮につながる」と強調した。
もっとも、精度を下げれば性能低下の懸念もある。これについてアスガル氏は、Qualcommのパートナー技術を活用すれば、高精度モデルを1ビットに変換した場合でも精度低下をごく小さく抑えられると説明した。
1ビットモデルは、まずAIグラスへの適用を見込む。Qualcommはサミット会場のデモルームで、グラス前方の物体を認識し、質問に応答する1ビットのマルチモーダルモデルを披露した。アスガル氏は「リンゴの色を見分けることは簡単に思えるが、視覚障害者にとっては大きな助けになり得る」と述べ、小型機器でも端末内でこうした処理を完結させる意義を強調した。
翻訳モデルの小型化も進んでいるという。アスガル氏は、一部のパートナーが1言語に特化した超小型翻訳モデルを開発しており、こうしたモデルに加え、音声認識や音声合成のモデルもマイクロNPU上で動作させられると述べた。
一方、カメラ付きイヤホンは当初からメモリ使用量を抑えた設計が前提になっている。Cleerが披露したカメラ付きイヤホンは、画像保存用の領域を持たない。アスガル氏は「カメラは、その場に人が多いか、オフィスか、晴れているかといった視覚情報だけをエージェントに渡す。それ以上の解像度や情報は必要ない」と説明した。
イヤホン分野では、より少ないメモリで動くプラットフォームへ移行する動きも出ている。Qualcommのアンドリュー・レイスター シニアプロダクトマネジャーは、「低消費電力のオーディオ機器では、メモリ不足がむしろ前向きな転機になっている」と語った。開発のしやすさから、DRAMベースのLinuxやAndroidプラットフォームを採用してきた企業もあるが、Qualcommが軽量プラットフォームでも同様の開発環境を提供できるようになり、移行の選択肢が広がったという。
レイスター氏は「軽量プラットフォームに移れば、メモリコストだけでなく製品全体の原価も下がり、消費電力の低減にもつながる」と説明した。さらに、チップ内のAI処理で音声品質を高められるため、マイクの数を増やす必要がなく、マイク関連コストの上昇も抑えられるとの見方を示した。
Qualcommは、この移行を「Snapdragon Sound Apps and Agent」で支援している。「Snapdragon Sound Elite」第2世代では、プラットフォーム内の共有メモリに外部メモリを組み合わせることで、チップ内に収まらない大規模モデルでも外部メモリから読み込んで実行できるようにした。レイスター氏は「今がより軽量なプラットフォームへ移るべきタイミングなのか迷う企業もあるが、Qualcommはその移行を容易にする」と述べた。