搜索关键词 token处理量
AI & Enterprise
LG Uplus联手OptAI推进Token优化 同等GPU资源下Token处理量最高增至4倍
LG Uplus宣布与AI模型优化企业OptAI联合研发Token优化技术,重点通过模型轻量化和推理流程优化提升计算效率与请求承载能力。双方在GPU优化方面已取得阶段性成果,在同等GPU资源下,Token处理量最高可提升至原来的4倍。相关成果后续将分阶段应用于LG Uplus的AI服务及大规模AI基础设施运营场景。
Industry
Qualcomm勾勒AI智能手机蓝图:终端侧单日最多可处理100万Token
Qualcomm在骁龙峰会2026上进一步阐述“AI智能手机”路线,核心是由AI代理承接用户意图并完成任务,而非依赖用户逐一打开应用操作。该公司预计,下一代代理式AI设备在终端侧单日最多可处理100万Token。Qualcomm同时表示,将把代理能力从智能手机扩展至PC、智能眼镜、可穿戴设备和汽车,并已开发出一款整合内存与AI计算单元的骁龙协处理器。
AI & Enterprise
Vercel:开源权重模型在AI Gateway月度Token处理量中占比达56%
Vercel最新数据显示,开源权重模型在其AI Gateway中的月度Token处理量占比已升至56%,首次突破50%。这一比例较2025年12月的7%和2026年4月的13%明显提高。不过,Token处理量占比并不等同于成本占比,Vercel表示,开源权重模型对应的成本占比也在持续上升。