搜索关键词 开源大语言模型
AI & Enterprise
Dinothicia开源STAR-KV技术，缓解大语言模型推理内存瓶颈
AI基础设施企业Dinothicia公开了KV缓存压缩技术STAR-KV的论文和源代码。论文实验显示，该方案仅凭低秩压缩即可将KV缓存最高减少75%；结合混合精度量化后，整体压缩幅度最高可达20倍，旨在缓解大语言模型长上下文推理中的内存和速度瓶颈。
AI & Enterprise
成本驱动下中国开源AI模型获美企关注：Coinbase测试GLM 5.2，Microsoft评估DeepSeek
随着AI投入持续攀升，部分美国科技公司正将目光转向成本更低的中国开源AI模型。Coinbase正在测试在其LLM网关中默认接入Z.ai的GLM 5.2、Moonshot AI的Kimi 2.7等模型；Microsoft也在评估DeepSeek V4微调版本及其他开源模型，作为OpenAI和Anthropic方案的低成本替代选择。业内认为，开源带来的可控性以及监管因素，正共同推动这类模型在企业端的采用。
AI & Enterprise
Z.ai发布开源模型GLM-5.2：基于Huawei Ascend AI加速器训练，FrontierSWE成绩接近Claude Opus 4.8
中国AI公司Z.ai发布新一代开源模型GLM-5.2。公司表示，该模型训练全程基于Huawei Ascend AI加速器，未使用Nvidia硬件。在FrontierSWE、SWE-bench Pro等编程与Agent基准测试中，GLM-5.2成绩位居前列；同时，模型以MIT许可证开源，提供权重和量化版本，并以更低的API定价进入市场。
