Nota推出适配AWS自研AI芯片的模型优化服务。图片来源:Nota

AI模型轻量化与优化企业Nota于7日宣布,已推出适配Amazon Web Services(AWS)自研AI芯片的模型优化服务,可针对芯片特性对客户的AI模型进行轻量化与优化。

据介绍,Nota作为AWS认证合作伙伴,将面向Trainium、Inferentia等AWS自研AI芯片提供相关服务。该服务基于Nota的模型轻量化与部署平台Netspresso展开。Nota表示,Netspresso可在保持精度的同时,将AI模型体积最高压缩90%。

从服务流程来看,整体分为三个阶段,分别为技术验证与诊断、模型移植与轻量化,以及性能调优。

Nota表示,该服务主要面向缺乏AI优化专业人才的企业客户,可围绕AWS AI芯片运行环境对模型进行优化,在提升推理性能的同时实现成本优化。

Nota首席执行官(CEO)Chae Myung-su表示,AWS AI芯片在性价比方面具备优势。公司将通过模型调优,帮助客户在自有模型上更充分地释放AWS芯片性能,从而带来看得见的成本优化效果。

关键词

#Nota #AWS #AI芯片 #Trainium #Inferentia #Netspresso #AI模型轻量化 #模型优化 #推理性能 #成本优化
版权所有 © DigitalToday。未经授权禁止转载或传播。