MetaのLlama。写真=Shutterstock

Metaが、旧型サーバーから回収したDDR4メモリを新サーバー環境で再利用する技術「Vistara」を開発した。独自設計のCXL(Compute Express Link)対応ASICを介してメモリを共有する仕組みで、機械学習推論などの実運用に導入した結果、メモリ不足による処理中断を33%削減したという。The Registerが29日、報じた。

Metaが公表した論文によると、同社が保有する数百万台規模のサーバーのうち、約40%はメモリ増設が難しい旧世代機で、現在も一部の処理を担っている。一方で、サーバー本体の寿命が3〜5年程度なのに対し、メモリは7〜10年使えるという。

そこでMetaは、旧型サーバーから取り外したDDR4メモリを再活用し、DDR5を採用する新サーバーから利用できるメモリプールを構成する方式を採用した。

ただ、異なる世代のメモリを混在させると、帯域幅の低下や遅延の増加、運用管理の複雑化といった課題が生じる。既存のCXL製品はDDR4に対応していないうえ、メモリモジュールの再利用には向かず、消費電力やコストの面でも適さなかった。

このためMetaは、Vistara向けのASICを自社設計し、DDR4メモリをCXL 2.0インターフェース経由でホストプロセッサに接続する構成を整えた。

Metaはこの技術を、機械学習推論、ビッグデータ処理、データベース、分散キャッシュなどに導入した。The Registerによると、分散推論ではサーバー台数を最大25%削減でき、メモリ価格が急騰する局面でもコスト削減効果があったという。

キーワード

#Meta #Vistara #CXL #DDR4 #DDR5 #メモリプール #ASIC #機械学習推論
Copyright © DigitalToday. All rights reserved. Unauthorized reproduction and redistribution are prohibited.