图为Andrew Reister(Qualcomm高级产品经理,左)与Ziad Asghar(Qualcomm高级副总裁兼XR、可穿戴与个人AI业务负责人)

在内存供应趋紧的背景下,越依赖DRAM的可穿戴设备,成本压力越明显。为控制BOM成本,AI终端厂商正通过软件和代码优化下调单机DRAM配置。Qualcomm则计划在Snapdragon AR1系列中引入更节省内存的1比特模型,进一步降低小型设备的内存负担。

Qualcomm高级副总裁兼XR、可穿戴与个人AI业务负责人Ziad Asghar于当地时间23日在Snapdragon Summit“个人AI与音频”媒体问答环节表示,内存问题已成为行业普遍面临的挑战,而体积更小的终端在可用内存资源上约束更强。其指出,耳机在整机电子元器件成本中,内存占比相对较低,因此受影响有限;DRAM使用量更高的设备受到的冲击则更明显,AI眼镜所受影响介于两者之间。

为降低内存需求,AI眼镜厂商正持续推进软件优化。Asghar透露,过去不少眼镜产品采用4GB DRAM配置,而目前新机型正逐步转向2GB,并且仍在继续下探。现阶段,各家公司都在集中推进代码优化,以压缩内存占用。

在此基础上,Qualcomm还将引入1比特模型方案。该方案通过将AI模型计算所使用的数值精度降至1比特,进一步缩小模型体积。Asghar表示,对于内存条件极为受限的小型终端而言,1比特模型尤为关键,可显著降低内存需求,从而压低相关设备的部件成本。

不过,计算精度下降通常也会带来准确率损失。对此,Asghar表示,Qualcomm合作伙伴掌握的相关技术,可在将更高精度模型转换为1比特模型的过程中,把准确率损失控制在很有限的范围内。

首批落地1比特模型的设备将是AI眼镜。Qualcomm在峰会展示区演示了一款1比特多模态模型:佩戴者可通过眼镜识别面前物体并发起提问。Asghar举例说,区分苹果的颜色对部分人而言并不困难,但对视障人士来说可能是很大的挑战。这意味着,小型终端也能在本地完成这类处理,具有实际意义。

Asghar还提到,翻译模型也在持续缩小。部分合作伙伴正开发仅支持单一语言翻译的超小型模型。这类模型未来有望与语音识别、语音合成模型一道,运行在微型NPU之上。

在带摄像头的耳机场景中,低内存占用从产品设计之初就被放在重要位置。Cleer推出的摄像头耳机不提供照片存储空间。Asghar表示,该摄像头仅向智能体传递“房间里人是否很多、是否为办公室、天气是否晴朗”等视觉信息,因此并不需要更高分辨率或更丰富的数据。

与此同时,耳机行业也在加快向更省内存的平台迁移。Qualcomm高级产品经理Andrew Reister表示,对于低功耗音频设备而言,内存紧张正倒逼行业转向更轻量化的平台。过去,一些厂商出于开发便利,采用了基于DRAM的Linux或Android平台;而随着Qualcomm在轻量化平台上提供类似的开发环境,相关迁移正变得更具可行性。

Reister表示,迁移至轻量化平台后,不仅内存成本和整机成本有望下降,功耗也会进一步降低。同时,借助芯片端AI处理提升语音质量后,厂商对增加麦克风数量的依赖也会减少,从而避免麦克风成本上升。

为推动上述转型,Qualcomm正在推进“Snapdragon Sound Apps and Agents”。据其介绍,第二代Snapdragon Sound Elite可在共享内存之外扩展外部内存,使原本无法装入芯片内存的大模型,也能通过外部内存完成加载和运行。Reister表示,部分企业仍在评估是否应在当前阶段转向更轻量化的平台,而Qualcomm的目标是让这一迁移过程更加容易。

关键词

#Qualcomm #Snapdragon AR1 #1比特模型 #AI眼镜 #可穿戴设备 #DRAM #内存供应趋紧 #多模态模型 #Snapdragon Sound #NPU #轻量化平台 #BOM成本
版权所有 © DigitalToday。未经授权禁止转载或传播。