Vercel AI Gateway、OpenAI Responses API の WebSocket 対応を開始
Vercel が提供する AI Gateway にて OpenAI Responses API の WebSocket モードサポートが開始され、複雑なエージェントワークフローにおける実行速度の大幅向上が実現された。
AI深層分析を開く2026年7月28日 09:13
AI深層分析
キーポイント
WebSocket モードによる接続最適化
AI Gateway が WebSocket モードをサポートし、各ターンで新しい入力項目と前回のレスポンス ID のみを送信することで、完全なコンテキストの再送が不要となった。
パフォーマンスの劇的向上
OpenAI によると、20 回以上のツール呼び出しを伴うエージェント展開において、WebSocket を利用することでエンドツーエンドの実行速度が最大約 40% 向上する。
データ保持ポリシーとの互換性
この新機能は store=false やゼロデータ保持（Zero Data Retention）の設定と互換性があり、OpenAI の WebSocket モード仕様をそのまま準拠している。
重要な引用
You can keep a persistent connection open and continue each turn by sending only new input items plus previous_response_id, instead of re-sending the full context over a fresh HTTP request every turn.
OpenAI reports up to ~40% faster end-to-end execution on WebSockets for agentic rollouts with 20 or more tool calls.
編集コメントを表示
編集コメント
AI エージェントが複雑化する中で、通信効率を改善するインフラの進化は不可欠である。今回の WebSocket サポートは、実運用での遅延問題を解決する重要なステップとなるだろう。
Source Article
元記事を日本語で読む
本文に関係しない購読案内、埋め込み通知、サイト内プロモーションは除いています。
AI Gateway が、OpenAI Responses API の WebSocket モードをサポートしました。これにより、各ターンで HTTP リクエストを新しく開いて文脈全体を送信し直す必要がなくなります。代わりに、永続的な接続を維持したまま、新しい入力項目と前のレスポンス ID だけを送ることで、次のターンへ継続して処理を進められます。
OpenAI の報告によると、エージェント機能のロールアウトでツール呼び出しが 20 回以上ある場合、WebSocket を利用することでエンドツーエンドの実行速度が最大約 40% 向上します。
Responses API のトラフィックを WebSocket でルーティングするには、GET /v1/responses エンドポイントを開き、永続的な WebSocket 接続上で生の response.create フレームを受け付けます。このモードは store=false や Zero Data Retention と互換性があり、上位の OpenAI WebSocket モード仕様に準拠しています。
詳細なセットアップ方法や全ルート一覧については、AI Gateway のドキュメントをご覧ください。
続きを読む
原文を表示
AI Gateway now supports WebSocket mode for the OpenAI Responses API. You can keep a persistent connection open and continue each turn by sending only new input items plus previous_response_id, instead of re-sending the full context over a fresh HTTP request every turn.
OpenAI reports up to ~40% faster end-to-end execution on WebSockets for agentic rollouts with 20 or more tool calls.
Route Responses API traffic over WebSocket
The Responses route opens at GET /v1/responses and accepts raw response.create frames over a persistent WebSocket connection. The mode is compatible with store=false and Zero Data Retention, and follows OpenAI's WebSocket mode specification upstream.
See the AI Gateway documentation for setup and the full route list.
Read more
関連記事
今日のまとめ
AIデイリーブリーフで今日の重要ニュースをまとめ読み