AI & Enterprise

Lightbits Labs推出AI推理引擎Infera：扩展KV缓存以提升GPU利用率

Lightbits Labs正式推出AI推理软件引擎Infera，核心在于将KV缓存从容量有限的GPU HBM中扩展出来，并借助预测式预取在HBM、DRAM和NVMe之间进行分层管理。该产品主要面向长上下文、高并发会话等大语言模型推理场景，旨在提升性能表现和成本效率。

Industry

IDC：超九成企业引入AI后数据价值上升

WD发布其赞助的IDC全球研究白皮书指出，AI基础设施的关注重点正由算力转向数据。调查显示，94.7%的受访企业在引入AI和生成式AI后的12个月内，存储数据量出现增长；约九成企业认为数据价值提升、数据保存周期延长，冷数据重新纳入在线调用的情况增多；为支持AI推理和检索增强生成（RAG）应用，企业对归档数据访问速度的提升需求也随之上升。