OpenAIは、最新のAIモデル「GPT-5.6」を活用して自社の推論基盤を最適化し、運用コストと処理効率を改善した。高性能モデル「GPT-5.6 Sol」を基準に、サービス全体の運用コストを20％削減し、トークン生成効率を15％高めたという。

7月30日付の報道によると、同社はGPT-5.6を使って推論エンジンやGPU運用の見直しを進めた。今回の取り組みは、7月9日に公開したGPT-5.6シリーズの運用効率改善の一環となる。

GPT-5.6シリーズは、高性能の「Sol」、バランス型の「Terra」、低コスト型の「Luna」で構成される。このうちSolは、競合モデルのClaude Fable 5と比べて、半分程度のコストで高い性能を実現するモデルとして位置付けられている。

今回の特徴は、GPT-5.6 Solを自社の推論基盤そのものの最適化に投入した点だ。OpenAIは、同モデルを使って推論エンジンの中核カーネルを改良したと説明している。

最適化では、GPUプログラミング言語のTritonとGluonを基盤とするカーネル最適化手法を活用し、コード効率を高めた。これにより、サービス運用コスト全体を20％削減したとしている。

推論速度を高める「投機的デコーディング（Speculative Decoding）」も改良した。これは小型の下書きモデルが次のトークンを先回りして予測し、それを大型モデルが検証する仕組みだ。

GPT-5.6 Solは、この下書きモデルの性能改善にも使われた。その結果、トークン生成効率は15％向上したという。

このほか、OpenAIはKVキャッシュの処理方式やGPUのタスク分配システムもGPT-5.6で最適化した。推論時の計算資源をより効率的に配分することで、同じハードウェアでもより多くのリクエストを処理できるようにしたとしている。

エージェントの運用方式も見直した。MCPサーバーや各種スキルは必要な場合にだけ呼び出すように変更し、ツール出力は原則として最大1万トークンに制限した。

さらに、多くの出力が必要な場合に限ってモデルが追加リクエストを行う設計とし、ツール呼び出し順も固定してキャッシュ利用率を高めた。

OpenAIは、こうした一連の改善によって、エージェント実行時の不要な計算や処理のばらつきを抑え、推論性能とコスト効率を同時に高めたとしている。

同社は「GPT-5.6は推論エンジンとハーネスの改善に大きく貢献した。今後は最適化のスピードがさらに加速すると確信している」とコメントした。

業界では今回の事例について、AIモデルの性能競争にとどまらず、AI自身がAIインフラの最適化を担う段階に入りつつあることを示したとの見方が出ている。今後はモデル性能に加え、サービス運用コストやGPU資源の活用度をどこまで自律的に改善できるかが、AI競争力の新たな尺度になる可能性がある。