AI初创公司PrismML表示，已在iPhone 17 Pro上运行一款270亿参数大模型。在目前能够于移动设备本地运行的模型中，这一参数规模已属前列。通常情况下，移动端可运行模型多集中在数十亿参数级别。
据The Information报道，当地时间9日，PrismML对阿里巴巴开源大模型Qwen 3.6进行了压缩，并将其部署到iPhone上运行。该公司称，压缩后的模型仍可处理复杂对话、推理、自主代理和软件编程等任务。
在AI数据中心建设竞赛中，Apple并未深度跟进，而是持续强调以端侧AI为核心，在iPhone上落地相关AI功能。
PrismML首席执行官Babak Hassibi在采访中表示，大约三年后，人们所需智能中的95%有望在手机、笔记本电脑和家电等设备本地完成，只有剩余5%会进入云端。他还称，模型压缩将从根本上改变AI的经济结构。
PrismML今年早些时候完成1625万美元种子轮融资，投资方包括Khosla Ventures等机构。
PrismML表示，公司通过数学方法大幅压缩了Qwen 3.6的模型体量。该公司强调，模型压缩通常会带来性能损失，但其方案在缩小模型规模的同时，并未造成明显性能下滑。
记者信息
Chi-kyu Hwang
delight@d-today.co.kr