AI半導体の不足がGPUにとどまらず、CPUにも広がり始めている。サーバー調達の長期化や価格上昇を受け、ソフトウェア開発・運用の現場では、インフラ前提そのものを見直す必要性が高まってきた。

Anthropicでプラットフォーム分野を統括するケイトリン・レセ氏は、CPU供給の制約に対応するには、ソフトウェアスタック自体の効率を引き上げる必要があると指摘する。

レセ氏はこのほど、X（旧Twitter）への投稿で「これまではデータベースやGPUを事前に計画しておけばよく、CPUは必要なときにクラウドで確保できた。しかし今はCPUも前もって押さえる必要がある。大規模なソフトウェア運用を担うチームは、CPU不足への対応時間をロードマップに織り込むべきだ」と述べた。

同氏によると、サーバー調達のリードタイムは従来の1〜2週間から最長6カ月へと延び、価格も3月以降に10〜20％上昇した。こうした供給逼迫は、今後数四半期にわたり続く見通しだという。

背景には、AIエージェントの普及がある。エージェントは反復的なループの中で文脈を収集し、ツールを呼び出し、その結果を解釈する。セッションが長くなるほどCPU消費は膨らみやすく、コード実行やブラウザー操作ではサンドボックスやコンテナも必要になる。

レセ氏は「Intelは決算発表で、AIデータセンターにおけるGPUとCPUの比率が8対1から4対1に低下し、エージェント型ワークロードが増えれば1対1に近づく可能性があると示した。AMDも同様の見方を示している」と説明した。

供給面に目を向けると、制約の構図はより鮮明になる。ロジック半導体の生産はTSMCが大半を担い、IntelとSamsungがこれに続く。メモリーはSK hynix、Samsung、Micronの3社が中心だ。AI需要が急増する中でも、生産能力の増強には数年単位の時間と数百億ドル規模の投資が必要で、短期間で供給を増やすのは難しいという。

レセ氏は「TSMCの生産ラインには限りがある。GPUやCPUに加え、Apple、Qualcomm、Broadcomなども同じ生産能力を取り合っている。SK hynix、Samsung、Micronも同様で、HBMと汎用DRAMが同じウエハーを巡って競合している」と述べた。

CPUベンダー別に見ると、AMDは自社工場を持たず、TSMCの割り当てに依存している。Intelは自社ファブを保有するものの、歩留まりの問題を抱えており、PC向けチップの生産ラインの一部をサーバー向けに振り向けている。DRAM価格も、生産がHBM寄りにシフトしている影響で上昇しているという。

レセ氏は、CPU不足について「数四半期のうちに明確な解決策が見つかる可能性は低い」とみる。その上で、ソフトウェア開発チームが取るべき対応を4点に整理した。

第1は、CPUを「どこで使え、どこで使えないか」を把握することだ。同氏は「隔離が必要なワークロードは他テナントとハードウェアを共有できず、効率が落ちる。特定の地域やリージョンでしか動かせないワークロードや、特定のマシンタイプを必要とするケースもある。こうした制約を事前に把握し、最適化につなげるべきだ」と指摘した。

第2は、サーバー調達から本番稼働までの立ち上げ期間を短縮することだ。

レセ氏は「サーバーを確保すれば終わりではない。新しいクラスターを設定し、実サービスに投入するまでには数日から数カ月かかる。この準備プロセスをどこまで効率化できるかが重要になる」と語った。

第3は、既存インフラの利用率を点検することだ。レセ氏は「Kubernetesにおける平均CPU利用率は、業界全体でも10％程度にとどまる。想定ピークに合わせて大きめの余剰を見込み、その前提を見直さないケースが多い。無駄を削減できる余地は大きい」と述べた。

第4は、ソフトウェアスタックそのものの効率化だ。レセ氏は「APIサービス層だけでなく、エージェント層でもCPU消費を抑えるため、コードとアーキテクチャーを磨き込む必要がある」と話している。