简体中文 < 文章列表 - 数字今日 (DigitalToday)

搜索关键词模型推理

AI & Enterprise

TikTok美国业务据称拟在2030年代初前锁定4GW电力容量

据报道，负责TikTok美国业务的USDS正评估长期锁定大规模算力基础设施，目标是在2030年代初前锁定4GW电力容量。TikTok表示，其美国服务目前主要运行在Oracle Cloud上。招聘动向及推荐算法重训计划显示，随着AI产品开发和业务扩张推进，其算力需求仍将持续上升。

AI & Enterprise

从TFM到CEM，非LLM路线AI模型持续升温

大语言模型之外，面向表格数据预测的TFM、不生成文本而仅返回决策结果及概率的决策模型，以及可在程序运行过程中自动优化代码执行方式的CEM，近期正快速升温。随着Gartner将LQM列为2027年值得关注的技术关键词之一，SAP、Nvidia、Cloudflare、Microsoft等企业也在加快相关布局。

AI & Enterprise

Stanford University与Meta发布混合推理技术：提升LLM速度并降低推理成本

Stanford University、Together AI、University of Illinois Urbana-Champaign与Meta联合发布Hybrid Reasoning Agents，使模型在中间推理阶段转向潜在空间计算，在工具调用和生成最终答案时再切回文本模式。测试显示，该方案可将文本Token生成量降低35.5%至54.7%，推理速度提升1.8至2.6倍，基准测试成绩平均提升10.4%。