OpenAIは24日（現地時間）、BroadcomとAI推論用チップ「Jalapeno」を共同開発したと発表した。年内に初のJalapenoサーバーを稼働させ、その後は活用を広げる計画だ。NVIDIA製チップへの依存を抑え、自社主導のハードウェア基盤を強化する狙いがある。
SiliconANGLEによると、OpenAIは年末にJalapenoを搭載した初のサーバーを稼働させる予定。その後、導入を順次拡大していく方針という。
Jalapenoは、学習と推論の両方を担うNVIDIAの主力GPUとは異なり、推論処理に特化して設計した。OpenAIは初期テストの結果として、Jalapenoが現行の最先端製品を大きく上回る電力効率を示したと明らかにした。
チップの詳細設計については公表していないが、アーキテクチャはデータ移動を減らす構成だと説明している。
Jalapenoベースの推論クラスターには、Broadcomのネットワーク技術「Tomahawk」シリーズも採用する。Tomahawkはイーサネットスイッチ向けのチップで、同一ラック内のサーバー間に加え、ラック間のデータ移動にも使われる。
最新の「Tomahawk 6」は、最大毎秒1.6テラビットのトラフィックを処理でき、内蔵の輻輳管理エンジンによってネットワークのボトルネックを抑えるとしている。
OpenAIはJalapenoとBroadcomのネットワーク機器を組み込んだカスタムサーバーラックも開発中だ。開発に向けて、トロントを拠点とするデータセンター機器設計サービス企業Celesticaと協業している。
著者について
Chi-gyu Hwang
delight@d-today.co.kr