图片来源:Reve AI

AI芯片供应紧张正在进一步加剧。随着大型云服务商将GPU资源优先分配给内部业务和大客户,AI初创企业面临的算力获取压力明显上升,使用成本也在持续走高。

即便是融资规模较大的AI初创,也难以置身事外。The Information近日报道称,获得Sequoia Capital、Founders Fund、General Catalyst、Andreessen Horowitz等知名风投大额投资的AI初创,已直接受到AI芯片供应紧张的冲击。

这一局面与2023年初OpenAI发布ChatGPT后不久的情况颇为相似。当时,云服务商也曾将算力资源集中投向内部需求,以及OpenAI等关键客户。

不过,与AI服务发展初期相比,当前AI编程相关需求正快速攀升,算力短缺带来的影响也更为广泛。报道援引云服务商及初创公司创始人的说法称,随着Anthropic等大型AI开发商需求显著增加,云服务商已开始限制小客户可获得的GPU容量,AI初创获取计算资源的难度进一步加大。

与此同时,资源紧张也让云服务商得以上调NVIDIA GPU服务器的租用价格,并带动利润率改善。

图像生成AI模型开发初创Krea就是典型案例。6个月前,Krea曾签下一份为期6个月的租赁合同,以每小时2.8美元的价格租用数百枚NVIDIA Blackwell芯片。彼时,多家云服务商还在争抢这一客户,但近期市场形势已明显转变。

当Krea因业务需要寻求新增AI服务器资源时,部分云服务商销售人员一度未能及时回应。随后,对方在回复中提出了新的合作条件:价格大幅上调,且需签订3年合同,资源才可落实。

据The Information援引Krea联合创始人兼CEO Victor Perez的说法,Krea最终以较此前高出32%的价格,续租了数百枚Blackwell芯片。

即便有AI初创提出租用1000块GPU,也未必能够顺利从云服务商手中拿到资源。原因在于,申请大规模GPU资源的客户数量同样不少,市场竞争依然激烈。

此外,一批企业正陆续进入云租赁合同续签周期,这对初创企业并不利于。The Information称,随着大量AI初创此前签订的两到三年期云合同陆续到期,云服务商有机会向其提供价格更高的新方案,或将相关资源重新分配给其他客户。

在供应趋紧、成本上升的背景下,AI初创也开始寻找应对之策。

以风投机构General Catalyst为例。为帮助被投企业获得GPU资源,该机构正推动设立GPU资源共享池,或直接与云服务商展开谈判。与此同时,也有一些公司不再单纯依赖云端租赁,而是选择购入GPU、自建基础设施,转向本地部署。

AI代理开发初创Collide便是其中之一。该公司认为,虽然自建GPU的短期成本高于云端租赁,但考虑到云租赁存在较大不确定性,本地部署仍值得尝试。The Information援引Collide CEO Colin McClelland的话称,从未来几年来看,自建GPU的总成本可能低于持续租用云资源。

关键词

#AI芯片 #GPU #云服务商 #算力短缺 #NVIDIA #Blackwell #AI初创 #Krea #General Catalyst #本地部署
版权所有 © DigitalToday。未经授权禁止转载或传播。