在美国夏威夷毛伊岛举行的 Snapdragon Summit 上,多家 Qualcomm 合作伙伴正围绕 Hexagon NPU 推出自研模型和推理引擎,发力端侧智能体市场,并将目标瞄准设备厂商。
相关企业认为,若将智能体主要部署在云端,不仅会带来持续的调用成本,也会使服务可用性更容易受到网络状态影响。基于这一判断,AGI、LiquidAI、MemoriesAI 等公司正向智能手机、智能眼镜和汽车厂商提供可直接运行在终端设备上的智能体方案。Qualcomm 表示,MemoriesAI 已在 Hexagon NPU 上运行其自研模型,其中面向智能手机的模型规模为 30 亿参数,面向可穿戴设备的模型规模为 15 亿参数。
当地时间 24 日,AI 智能体公司 AGI、LiquidAI 和 MemoriesAI 在 Snapdragon Summit 的“Elite Experience”分论坛上分别介绍了各自的端侧智能体技术。AGI 联合创始人兼总裁 Steven Frey 表示,公司正与 Qualcomm 合作,推动更多智能体任务在设备端完成。
AGI 面向设备厂商推出的是一套面向智能体的软件方案。Frey 以“将日历应用中的地址复制并粘贴到叫车应用”为例称,如果智能体能够访问设备级上下文和应用信息,就可以代替用户完成这类重复性操作。
AGI CEO Div Garg 介绍称,公司的 Agentic OS 技术栈由行动模型“AGI Act”和自研推理引擎“AGI Arrow”组成。该模型无需额外 API 接入或复杂对接,就能直接操作智能手机中已安装的第三方应用,覆盖设置、叫车、社交媒体和购物等场景。Garg 表示,这一能力已基于当前上市芯片和第一代端侧模型实现,后续还将继续提升。
他还表示,AGI 将优先向生产智能手机、汽车、智能眼镜和手表的企业提供可主动执行任务的智能体,目前 AGI 的行为执行层已经可以在 Snapdragon 平台上运行。Garg 称,对于正在开发硬件设备、或希望将自家产品与用户终端应用打通的企业,AGI 均可提供合作支持。
LiquidAI 则主打对用户现实环境上下文的读取和理解能力。LiquidAI 首席运营官 Jeffrey Lee 表示,公司的目标是“打造在真实环境中运行效率最高的基础模型”。
按照其方案,Qualcomm Sensing Hub 持续提供设备端不断输入的信号,Hexagon NPU 则在终端侧基于这些信号实时生成并更新用户个人上下文。Lee 表示,如果智能体只能读取消息和日程信息,其判断仍然带有较强推测性;而在无需将全部生活上下文上传至云端的情况下,AI 也可以更早介入并提供帮助。
MemoriesAI 提供的则是一层可供其他智能体调用的“记忆层”。MemoriesAI CEO Shawn Shen 表示,公司正与 Qualcomm 共同开发用于端侧感知的视觉语言模型。他解释称,即便不是自有 AI 助手,用户正在使用的其他智能体同样可以借助这套模型实现个性化服务;基于 Snapdragon 的一套模型,也可以运行在用户随身携带的各类设备上。
Qualcomm 也在持续扩展这一合作伙伴生态。Qualcomm AI 产品管理副总裁 Vinesh Sukumar 在点评现场演示时表示,相关展示说明,Snapdragon 端侧 AI 已能够结合上下文,以更具成本和功耗效率的方式执行有实际价值的操作。
Qualcomm 称,目前正与数十家合作伙伴围绕模型、内存、工具链、编排和治理等环节,共同构建端侧智能体技术栈。Sukumar 表示,智能体 AI 在早期阶段已经获得积极反馈,预计今年将进入更清晰的落地阶段。