NVIDIAは4日（現地時間）、GPUとストレージを直接結ぶ「cuFile」APIをオープンソースで公開した。あわせて、ストレージ分野の業界横断組織「Storage-Next」も発表した。SiliconANGLEが、同日に開催された「Future of Memory and Storage」カンファレンスでの発表内容として報じた。
cuFileは、ストレージ上のデータをCPUやシステムメモリを介さず、GPUメモリへ直接転送する技術だ。NVIDIAは、cuFile APIによってストレージデータにミリ秒単位で安全にアクセスできるようになるとしている。cuFileは2021年7月、「CUDA Toolkit 11.4」とともに正式リリースされた。
この技術では、ダイレクトメモリアクセスを活用し、NVMeドライブなどのストレージデバイス上のデータをGPUメモリへ直接転送する。GPUがCPUやシステムメモリをバイパスできるため、メモリアクセスの遅延低減につながるという。
NVIDIAは、cuFileが検索拡張生成（RAG）やエージェントAIのワークロードを高速化するうえで有効になるとの見方を示した。
Storage-Nextには、DataDirect Networks、Kioxia、Micronを含むストレージおよびフラッシュメモリ関連の40社が参加する。ストレージメーカー、コントローラーベンダー、熱設計・冷却関連企業、オーケストレーションベンダー、標準化団体などが加わり、GPU中心のストレージ最適化の検討を進めるとしている。
NVIDIAはこのほか、大規模な並列GPUが高帯域かつ超低遅延でデータを取り込むための基盤技術として、「SCADA」も紹介した。
著者について
Chi-gyu Hwang
delight@d-today.co.kr