スタートアップのPrismMLは、iPhone 17 Pro上で270億パラメーター級のAIモデルの動作を実証した。モバイル端末で動作するモデルとしては最大級だとしている。一般に、モバイル端末上で扱えるアクティブパラメーターは数十億規模にとどまるとされる。
米The Informationが9日(現地時間)に報じたところによると、PrismMLはAlibabaのオープンソース大規模言語モデル(LLM)「Qwen3.6」を圧縮し、iPhone上で動作させた。同社は、複雑な対話や推論に加え、自律型エージェントの実行やソフトウェアのコーディングにも対応できるとしている。
Appleは、AIデータセンターの構築競争から一定の距離を置く一方、iPhoneでAI機能を処理するオンデバイスAI戦略を打ち出してきた。
PrismMLのババク・ハシビ最高経営責任者(CEO)はインタビューで、「3年後には、必要な知能の95%を携帯電話やノートPC、家電上でローカルに利用し、クラウドに送るのは残り5%だけになる世界を想像してほしい」と述べた。その上で、「モデル圧縮はAIの経済構造そのものを変える」と語った。
PrismMLは年初、Khosla Venturesなどから1625万ドル(約24億円)のシード資金を調達した。
同社によると、PrismMLは数学的手法を用いてQwen3.6を大幅に圧縮した。圧縮には一般に性能低下が伴うが、同社は性能を落とさず小型化を実現した点を強調している。
著者について