搜索关键词 GPU HBM
AI & Enterprise
Lightbits Labs推出AI推理引擎Infera：扩展KV缓存以提升GPU利用率
Lightbits Labs正式推出AI推理软件引擎Infera，核心在于将KV缓存从容量有限的GPU HBM中扩展出来，并借助预测式预取在HBM、DRAM和NVMe之间进行分层管理。该产品主要面向长上下文、高并发会话等大语言模型推理场景，旨在提升性能表现和成本效率。
AI & Enterprise
KRG：韩国AI产业利润与现金流加速向半导体供应链集中，医疗AI和自动驾驶仍处投入期
KRG对韩国80家AI相关上市公司分析显示，2023年至2025年行业总营收由245.6955万亿韩元增至382.8216万亿韩元，净利润同步增长。不过，利润主要集中在GPU、HBM等半导体供应链环节；数据中心与云仍处前期重投入阶段，规模效应尚未充分释放，盈利承压，医疗AI和自动驾驶则仍未走出投入期。
AI & Enterprise
NVIDIA转向机架级AI系统设计：从GPU销售迈向AI工厂布局
NVIDIA在GTC 2026前夕披露新一代AI基础设施路线，核心从单一GPU产品转向机架级系统设计。公司将推出5类基于MGX架构的机架系统，可组合构建AI超级计算机，并通过GPU机架与LPU机架协同提升解码阶段效率。与此同时，Vera CPU也被纳入Rubin平台，以应对Agentic AI带来的CPU负载上升，这一变化预计将进一步带动HBM4以及数据中心电力、冷却等配套需求。
