图片来源:Shutterstock

据SiliconANGLE报道,NVIDIA于当地时间4日在“Future of Memory and Storage”大会上宣布,将cuFile API开源,并同步推出产业协作组织Storage-Next。

cuFile是一项连接GPU与存储的数据访问技术,可使存储数据绕过CPU和系统内存,直接传输至GPU显存。NVIDIA表示,借助cuFile API,GPU能够以低延迟方式访问存储数据。该技术最早于2021年7月随CUDA Toolkit 11.4正式推出。

从实现方式看,cuFile基于直接内存访问(DMA)机制,可将NVMe SSD等存储设备中的数据直接传输至GPU显存。由于数据路径无需经过CPU和系统内存,这有助于降低数据访问时延。

NVIDIA表示,cuFile有望提升RAG、Agentic AI等工作负载的数据处理效率,加快相关应用的运行速度。

目前,Storage-Next已吸引包括DataDirect Networks、Kioxia、Micron在内的40家存储与闪存厂商参与。该协作组织汇集了存储制造商、控制器厂商、散热与热管理企业、编排供应商及标准组织,重点围绕以GPU为核心的架构探索存储优化方案。

此外,NVIDIA还提出了SKA-DA,并将其定位为支撑大规模并行GPU以高带宽、超低时延访问数据的底层技术。

关键词

#NVIDIA #cuFile #CUDA Toolkit 11.4 #GPU直接访问存储数据 #NVMe #RAG #Agentic AI #Storage-Next #GPU显存 #数据路径
版权所有 © DigitalToday。未经授权禁止转载或传播。