搜索关键词 大语言模型推理
AI & Enterprise
Stanford University与Meta发布混合推理技术：提升LLM速度并降低推理成本
Stanford University、Together AI、University of Illinois Urbana-Champaign与Meta联合发布Hybrid Reasoning Agents，使模型在中间推理阶段转向潜在空间计算，在工具调用和生成最终答案时再切回文本模式。测试显示，该方案可将文本Token生成量降低35.5%至54.7%，推理速度提升1.8至2.6倍，基准测试成绩平均提升10.4%。
AI & Enterprise
Dinothicia开源STAR-KV技术，缓解大语言模型推理内存瓶颈
AI基础设施企业Dinothicia公开了KV缓存压缩技术STAR-KV的论文和源代码。论文实验显示，该方案仅凭低秩压缩即可将KV缓存最高减少75%；结合混合精度量化后，整体压缩幅度最高可达20倍，旨在缓解大语言模型长上下文推理中的内存和速度瓶颈。
AI & Enterprise
韩国三大运营商2025年研发强度排名：SK Telecom居首，KT快速逼近
韩国三大运营商2025年研发投入占营收比重分别为SK Telecom 2.08%、KT 1.26%、LG U+ 0.95%。尽管SK Telecom研发投入同比减少371亿韩元，但研发强度仍居首位；KT研发投入大幅增长至3553亿韩元，与SK Telecom的差距缩小至约5亿韩元。
