据CNBC当地时间12日报道,微软正加大自研AI芯片的使用力度,以降低对英伟达GPU的依赖。
微软当天发布了第三代AI加速器Maia 300,并计划自该产品起,进一步提高自研芯片在AI请求处理中的占比。根据微软披露的信息,Maia 300预计将于2027年进入量产阶段。
微软于2023年推出首款AI芯片Maia 100,并在今年1月发布Maia 200。微软CEO Satya Nadella今年7月曾表示,与公司当前使用的最新硬件相比,Maia 200的单位美元性能提升了30%。
目前,Maia 200已被用于在Azure云上运行OpenAI模型。
按照微软规划,单个数据中心机柜将部署96颗Maia 300,较Maia 200翻倍。以机柜为单位计算,AI Token吞吐量最高可提升至7倍;按每兆瓦计算,其Token处理能力较GPU高出40%。微软Technical Fellow Jim Kliwein表示,Maia 300将用于加速Microsoft 365 Copilot的部分功能。
微软副总裁Scott Guthrie在博客中表示,公司计划将Maia产品线扩展至数吉瓦规模部署。微软总经理Alistair Speirs则表示,AI行业变化迅速,公司将保持方案灵活性,并在合适时机为不同模型匹配合适的芯片。
Evercore ISI分析师预计,到2027年第一季度,Maia在微软AI芯片支出中的占比将达到约10%。
报道还指出,与Google TPU以及Amazon Inferentia、Trainium不同,Maia目前并未向外部企业提供。Moor Insights & Strategy CEO Patrick Moorhead表示:“微软目前还没有向公司外部机构开放这款芯片的测试。”