NVIDIAは19日、AIワークロードとGPUリソースを管理するプラットフォーム「Run:ai」をオープンソースとして全面公開した。

同社によると、Run:aiはKubernetes環境でGPUリソースを需要に応じて割り当て、データ処理から学習、推論に至るまで、AIワークロード全体を一元管理できるようにする。

今回の公開により、DSXエコシステムのパートナー企業やAIクラウド事業者は、GPUの稼働率を高め、共有AIインフラをより効率的に運用できるようになるとしている。

公開対象にはプラットフォーム全体に加え、単体でも利用できる中核コンポーネント4種類が含まれる。まず「KAI Scheduler」は、複数チームがクラスタリソースを公平に利用できるよう、ジョブの配置を制御する。

「GPU Partitioning Operator」は、1基のGPUを複数のワークロードで共有できるようにする。「KAI Resource Management」は、部門やプロジェクトごとにGPUの割り当て枠を設定・確保する。「Workload Map」は、Kubernetes上で動作するさまざまなAIワークロードを統一的に定義する。

ソースコードはGitHub上のDSX AI Factoryから入手できるほか、NVIDIA NGCでもコミュニティ版としてダウンロード可能だ。コミュニティ版は有料サブスクリプションなしで利用できる一方、NVIDIAの法人向けサポートは提供されない。

パートナー企業も自社サービスを通じてRun:aiを提供している。Crusoe、Nebius、Mirantis、Lafayette、Spectro Cloud、Saturn Cloud、OpenNebula Systems、VClusterは、Run:aiを統合済みのサービス、またはマネージドサービスとして提供する。

Nebiusは、自社のAIクラウド上でRun:aiをワンクリックでデプロイできる機能を提供する。

NVIDIAは関連するオープンソースプロジェクトとして、「Model Streamer」と「Grove」も紹介した。Model Streamerは、モデルの重みをGPUメモリに高速ロードし、推論ワークロードの立ち上がり時間の短縮を支援する。Groveは、複数コンポーネントが連動してスケールする推論ワークロードを単一のAPIで管理する。