搜索关键词 KV缓存
Industry
Samsung Electronics、SK hynix今年第二季度营业利润合计或达15万亿韩元,SK hynix DRAM利润率接近80%
Samsung Electronics与SK hynix今年第二季度营业利润合计预计接近15万亿韩元,双双有望刷新单季纪录。机构普遍认为,两家公司利润主要由存储业务驱动,其中SK hynix的DRAM营业利润率或接近80%。展望下半年,AI需求与供给偏紧格局被认为仍将持续,HBM4放量节奏及后续价格谈判将成为关键变量。
AI & Enterprise
SoftBank、Meta入局Neocloud,AI云市场冲击AWS等三巨头格局
面向AI负载优化的云服务Neocloud正在快速升温。随着SoftBank、Meta等大型科技公司相继入场,这一原本由初创企业主导的市场开始进入新一轮竞争周期,市场关注焦点也从新兴云厂商扩展至其能否撼动AWS、Microsoft、Google Cloud主导的传统云格局。与此同时,NVIDIA正加大对GPU出租型云厂商的支持,企业级AI落地相关的前线部署工程师(FDE)体系也在同步升温。
AI & Enterprise
Dinothicia开源STAR-KV技术,缓解大语言模型推理内存瓶颈
AI基础设施企业Dinothicia公开了KV缓存压缩技术STAR-KV的论文和源代码。论文实验显示,该方案仅凭低秩压缩即可将KV缓存最高减少75%;结合混合精度量化后,整体压缩幅度最高可达20倍,旨在缓解大语言模型长上下文推理中的内存和速度瓶颈。
-
AI & Enterprise
DeepSeek凭借内存效率支撑低价策略 据悉正洽谈约700亿元人民币融资
-
Industry
Samsung Electronics、SK hynix一季度业绩料超预期 行业景气仍存隐忧
-
Industry
Google推出TurboQuant压缩KV缓存,SK hynix、Samsung Electronics等存储股走低
-
AI & Enterprise
Google发布TurboQuant:大语言模型(LLM)内存占用可降至1/6,速度最高提升8倍
-
Industry
Dinoticia发布企业级AI存储战略,发力AI推理基础设施市场
-
AI & Enterprise
NC AI发布基础模型VAETKI:KV缓存内存占用降低约83%