Microsoftが、AIデータセンターで深刻化するメモリ不足への対応策として、「コンポーザブルメモリ（composable memory）」の活用を検討している。各サーバーに分散したメモリを集約し、必要な処理へ動的に割り当てる構想だ。米SiliconANGLEが14日（現地時間）に報じた。
報道によると、Microsoftのシニアアーキテクトであるサミール・ラジャドニャ氏が、「AIデータパイプラインフォーラム」でこの構想を説明した。ラジャドニャ氏が所属する技術検討チームは、各サーバーで個別に使っていたメモリをAzure全体で共有し、必要な場所にその都度再配分する技術を探っているという。
AIデータセンターでは、メモリやストレージが必要なタイミングでデータを供給できず、GPUが待機を強いられるケースが少なくない。
AI需要の急拡大を背景に、メモリの供給逼迫も続いている。ラジャドニャ氏は、AI推論が電力とメモリという2つの制約に同時に直面していると指摘した。
同氏は「いまはメモリが不足している」とした上で、「使われていない処理にメモリを固定したままにするのは、貴重な資源の無駄だ」と述べた。また、「かつてメモリはCPUやGPUに付属する部品だったが、いまではそれ自体が重要な資源になった」と強調した。
その上で、「メモリとプロセッサの双方で革新が進んでいるが、重要なのは両者をどう接続するかだ」と説明し、光接続技術がコンポーザブルメモリの実現を後押しするとの見方を示した。
著者について
Chi-gyu Hwang
delight@d-today.co.kr