据The Information援引两位知情人士消息,Google正与Marvell Technology商讨联合开发两款新芯片,以提升AI模型推理效率。
报道称,双方讨论的两款芯片中,一款为可与Google张量处理器(TPU)配合使用的内存处理器,另一款则是面向AI推理优化的新型TPU。前者可与TPU协同工作,将AI推理任务中的计算负载与内存负载分开处理,从而提升整体运行效率。
The Information指出,Google这一动作显示,面向自主智能体等AI产品的推理芯片需求正在快速升温。
此前,NVIDIA在3月举行的GTC大会上推出了LPU,以提升推理负载处理效率。报道还称,NVIDIA披露的LPU基于其与Grok Technology签署的一项规模达200亿美元的授权协议所涉及的相关技术。Google原本就已在推进新型推理芯片的研发,而在NVIDIA推出LPU后,相关进度进一步加快。Marvell曾参与Grok第一代LPU设计,在推理芯片开发方面具备经验。
报道称,Google过去一直从Marvell采购相关芯片产品,而此次讨论的目标则是面向Google需求进行定制开发。The Information称,这也被视为Google试图进一步降低其在TPU设计合作上对Broadcom依赖的延续。
据悉,Google与Marvell的目标是最快于明年敲定设计方案,并在此后推进至试产阶段。
记者信息