OpenAIが2026年8月13日にUltrafastモードをAPIプレビューとして公開したことで、GPT-5.6 Solが毎秒750トークンという速度で動作するようになった。標準モードの14倍に相当し、応答速度がネックだった用途への応用が一気に現実的になる。
Cerebrasの専用チップで毎秒750トークンを出した仕組み
Ultrafastモードを支えているのはCerebrasのウェーハスケールエンジンだ。44GBのオンチップSRAMを搭載しており、GPUが抱えるメモリ帯域のボトルネックが発生しない。大規模モデルの推論はGPUのメモリI/Oがボトルネックになりやすいが、Cerebrasのアーキテクチャはその制約を回避する設計になっている。
OpenAIはこの連携をAPIプレビューとして先行提供している。OpenAI公式ページでは利用開始の手順と現在の制限が案内されており、アクセス枠は順次拡大予定だ。
インシデント対応とリアルタイムCSで何が変わるか
OpenAI自身がUltrafastをインシデント対応に使っている。障害発生中にアプリのログ・直近のコード変更・エンジニアの報告をリアルタイムで分析し、原因の特定と修正案の準備をアウトレージが続く間に進められる。従来の速度では終わらなかった分析が、障害対応と並行して完結するようになる。
顧客対応の現場でも効果が出やすい。複数のシステムをまたぐ問い合わせに対して、会話の流れを止めずに複数ステップの調査を完了させられる。音声アプリや金融分析のように即時応答が前提の用途でも、GPT-5.6 Solの推論能力をそのままリアルタイムで使えるようになる点が大きい。
これは推論速度の競争が変わったサインだ
これまでAIの推論速度を上げるには精度を落とすか、小さなモデルに切り替えるしかなかった。Ultrafastは上位モデルの能力を保ったまま14倍の速度を実現した点で、これまでの選択肢とは性質が違う。AIエージェントの実行環境が進化する流れと組み合わさって、速度と精度が同時に求められるリアルタイム処理の選択肢が広がってきた。
現時点ではAPIプレビューで限定公開だが、アクセスが拡大すれば開発の前提が変わる場面が出てくる。
FREE DOWNLOAD
実務で使えるお役立ちコンテンツを無料で見る
無料会員登録で、実務で使えるAIテンプレート・プロンプト・PDFを受け取れます。
全PDFにアクセスする（無料）
無料会員登録して受け取る
「AIの回答が遅い」って、実は結構地味にストレスですよね。特に会話の途中で数秒待つ感じ。
毎秒750トークンというのが実際にどれくらいの体感なのか気になりますが、OpenAI自身がインシデント対応に使っているというのは面白い。「障害が起きているその場で分析が終わる」というのは、運用エンジニアにとってはかなり嬉しい未来だと思います。
APIプレビューの段階なので、まずは様子を見つつ、アクセスが広がったタイミングで試してみる価値はありそうです。