Nvidia ngày 4/8 (giờ địa phương) công bố mã nguồn mở cuFile, API cho phép GPU đọc dữ liệu trực tiếp từ thiết bị lưu trữ mà không phải đi qua CPU. Theo SiliconANGLE, tại hội nghị Future of Memory and Storage, hãng cũng ra mắt liên minh ngành có tên Storage-Next.

cuFile là công nghệ chuyển dữ liệu từ hệ thống lưu trữ thẳng vào bộ nhớ GPU, bỏ qua CPU và bộ nhớ hệ thống. Nvidia cho biết API này hỗ trợ truy cập dữ liệu lưu trữ an toàn với độ trễ tính bằng mili giây. cuFile được phát hành chính thức từ tháng 7/2021 cùng CUDA Toolkit 11.4.

Công nghệ này sử dụng cơ chế truy cập bộ nhớ trực tiếp để đưa dữ liệu từ các thiết bị như ổ NVMe vào bộ nhớ GPU. Theo Nvidia, việc cho phép GPU truy xuất dữ liệu mà không cần qua CPU và bộ nhớ hệ thống giúp giảm độ trễ truy cập.

Hãng đánh giá cuFile sẽ đặc biệt hữu ích trong các tác vụ tìm kiếm tăng cường truy xuất (RAG) và các khối lượng công việc agentic AI, nơi yêu cầu xử lý dữ liệu nhanh hơn.

Storage-Next hiện quy tụ 40 doanh nghiệp trong lĩnh vực lưu trữ và bộ nhớ flash, trong đó có DataDirect Networks, Kioxia và Micron. Liên minh này tập hợp các nhà sản xuất thiết bị lưu trữ, nhà cung cấp bộ điều khiển, các công ty thiết kế giải pháp nhiệt và làm mát, nhà cung cấp nền tảng điều phối cùng các tổ chức tiêu chuẩn, với mục tiêu tìm ra phương án tối ưu lưu trữ cho hạ tầng lấy GPU làm trung tâm.

Ngoài ra, Nvidia cũng giới thiệu Scada, một nền tảng công nghệ được thiết kế để hỗ trợ các cụm GPU song song quy mô lớn truy xuất dữ liệu với băng thông cao và độ trễ rất thấp.