图片来源:XCENA

半导体Fabless企业XCENA 16日表示,公司于当地时间10月12日至15日参加了在美国圣何塞会议中心举行的“OCP Global Summit 2026”,并在现场展示了面向AI推理的CXL内存基础设施技术。

此次展会上,XCENA基于CXL(Compute Express Link)内存解决方案“MX1”展示了两项AI推理相关演示。

其中一项演示围绕KV缓存共享展开。KV缓存用于保存大模型已处理的上下文信息,供后续生成阶段调用。XCENA表示,借助CXL内存池,多台AI推理服务器可共享KV缓存,从而减少重复存储,并降低服务器之间的数据搬运负担。

另一项演示则利用MX1的近数据处理(NDP)能力,加速检索增强生成(RAG)流程中的向量检索环节。

此外,XCENA还正与SK hynix推进技术合作,围绕CXL混合架构在AI工作负载中的应用展开协同。

XCENA首席执行官Kim Jin-young表示,提升AI基础设施的性能与效率,关键不仅在于算力提升,也在于更高效地利用内存并减少数据移动。他还称,公司此次展示了MX1在真实AI工作负载中的应用方式,后续将继续与生态合作伙伴携手推进下一代AI内存基础设施的发展。

关键词

#XCENA #OCP Global Summit 2026 #CXL #MX1 #AI推理 #KV缓存 #CXL内存池 #NDP #RAG #SK hynix
版权所有 © DigitalToday。未经授权禁止转载或传播。