| 移动网页

搜索关键词 模型优化

AI & Enterprise

Microsoft称AI单次请求耗电或远低于既有估算，回应“ChatGPT单次提问的耗电量约为谷歌搜索的10倍”说法

Microsoft公布AI推理能耗测算结果称，在真实服务环境下，大语言模型单次请求的耗电量可能仅为既有估算的四分之一到二十分之一。按回复长度约300个token计算，中位耗电为0.31Wh；若回复增至约5000个token，中位值将升至3.91Wh。公司同时披露了大规模请求场景下的用电和冷却耗水估算，并强调AI能耗更受处理方式和回复长度影响。