OpenAIは13日（現地時間）、主力モデル「GPT 5.6 Sol」の処理速度を最大14倍に高める新モード「ウルトラファスト」を発表した。毎秒最大750トークンを出力できるとしており、まずは一部顧客向けにプレビュー提供を始めた。
TechCrunchによると、ウルトラファストは毎秒最大750トークンの出力に対応するという。
OpenAIは、ウルトラファストについて、GPT 5.6 Solの処理を大幅に高速化するために設計したと説明した。従来はリアルタイム性を重視する場合、小型モデルや特化型モデルを選ぶ必要があったが、同モードによりGPT 5.6 Solでも単位時間当たりの処理量を高められるとしている。
主な用途としては、インシデント対応、カスタマーサポート、金融市場分析、ECを挙げた。
ウルトラファストは現在、プレビュー版として提供している。半導体企業Cerebrasとの協業を基盤に稼働しており、現時点では少数の顧客に限定して提供する。処理容量の拡大に合わせて、対象を順次広げる計画だ。
高速化を巡っては、Anthropicも「Claude」に高速モードを導入しているが、OpenAIは今回のウルトラファストがそれを上回る速度を実現すると説明している。
著者について
Chi-gyu Hwang
delight@d-today.co.kr