GoogleがMarvellと、AI推論向けの専用半導体2種類の共同開発を協議していることが分かった。対象は、新型TPUとTPUと連携して動作するメモリ処理装置。米The Informationが4月19日、関係者2人の話として報じた。
協議中の2種類のうち1つは、Googleのテンソル処理装置(TPU)と組み合わせて使うメモリ処理装置(memory processing unit)だ。もう1つは、AI推論向けに最適化した新型TPUという。
新たなメモリ処理装置はTPUと連携し、AIワークロードを演算処理とメモリ処理に切り分けて効率化する役割を担う。
The Informationは、今回の動きについて、AIエージェントなどを支える推論用半導体の需要が急拡大している流れを反映したものだと伝えた。
これに先立ちNVIDIAは3月のGTCで、推論ワークロードの効率向上を狙ったLPU(言語処理装置)を公開した。報道によると、このLPUはGroqの技術に基づいており、NVIDIAは同社と総額200億ドル規模のライセンス契約を結んだという。
The Informationによると、Googleは以前から新たな推論用半導体の開発を計画していたが、NVIDIAによるLPU投入後に関連作業を加速させている。MarvellはGroqの第1世代LPUで設計パートナーを務めており、推論向け半導体の設計経験を持つとされる。
GoogleはこれまでMarvellから製品を調達してきたが、今回の協議はGoogle向けのカスタム設計を前提としている。The Informationは、長年TPU設計で協業してきたBroadcomへの依存を引き下げる動きの一環だと報じた。
GoogleとMarvellは、早ければ来年にも設計を確定し、試作に入ることを目指している。