据TechCrunch当地时间4月24日报道,为应对持续增长的AI需求,Meta已与Amazon Web Services(AWS)达成协议,将采用数百万颗AWS自研的Graviton CPU。
Graviton是基于Arm架构的CPU。虽然GPU仍是大模型训练的核心算力,但在训练完成后,AI智能体还需要承担实时推理、代码生成、搜索以及多步骤任务处理等计算密集型负载,由此也带动了CPU需求上升。AWS最新一代Graviton也正是面向这类AI计算场景打造。
Meta去年8月曾与Google Cloud签下一份为期6年、总额100亿美元的合同。在Google Cloud Next活动结束后不久,Amazon(AWS母公司)也披露了这项与Meta达成的新协议。
除Graviton外,Amazon也拥有自研AI芯片Trainium。Anthropic本月初决定在未来10年向AWS支出1000亿美元,这也意味着其锁定了相当规模的Trainium算力供给。
对Amazon而言,这笔交易意味着其在自研CPU领域拿下了一家大型客户。与此同时,NVIDIA也在推出基于Arm架构的CPU Vera,争夺AI智能体相关负载市场。不同之处在于,NVIDIA直接销售芯片,AWS则主要通过云服务对外提供相关能力。
Amazon CEO Andy Jassy本月初在致股东信中表示,企业客户希望以更高的成本效益投入AI,Amazon将凭借自研芯片争夺这一市场。
记者信息