AI Gateway production index｜AI Gateway の生産性インデックス

どの AI モデルが最良かと問えば、インクが乾く前に答えは変わってしまいます。これは週に一度も新しいモデルがリリースされる業界で起こることです。 すべてのベンチマークが異なるレースを測定しており、それぞれのレースが独自の勝者を決定しますが、Vercel は生産環境でのワークロードを通じて業界に独特な視点を持っています。AI Gateway は、実際のアプリケーションやエージェントを通じて、数百のモデルにまたがる数十兆トークンを処理しています。 私たちが観察していること: Anthropic は単価が高いにもかかわらず支出で首位を維持し、Google はボリュームで首位です OSS モデルは注目を集めていますが、特定のラボへの忠誠心はありません 最近のモデル更新後、OpenAI の支出シェアが急速に拡大しています 高ボリュームワークロードは平均して 30 種類以上の異なるモデルにルーティングされます エージェント型ワークロードは全トークンボリュームの 59% を占めています（6 ヶ月間で 2 倍増） このレポートは、AI Gateway の 7 ヶ月にわたる生産環境トラフィックデータに基づいて構築されており、20 万人以上のユニークなチームからの利用が含まれています。 Anthropic は支出で首位、Google はボリュームで首位 コストとボリュームのランキングが一致しないのは、同じ顧客であっても異なるワークロードを測定しているからです。 2026 年 4 月の支出では、Anthropic が 61%、Google が 21%、OpenAI が 12% を占めました。 トークンボリュームで見ると状況は逆転します。AI Gateway を通じた 4 月のトラフィックの 38% が Google にルーティングされ、26% が Anthropic、13% が OpenAI、10% が xAI でした。その他の小さなラボが残り全体を分け合っています。 一部のモデルは、1 トークンあたりのコストを十分に低く抑えることで大量の処理量を担い勝つように設計されており、他のモデルは品質が極めて重要な用途にのみ適するよう高価格で設定されています。これらの異なるモデルは、同じ呼び出しを巡って競合しているわけではありません。集計すると、同じ顧客ベースが両方のリーダーボードに存在しており、プレミアムな推論処理は Claude Opus に、安価で高速な処理は Gemini Flash に割り当てられています。支出は高リスクの呼び出しに従い、処理量は低リスクのものに従い、各研究所が同じアプリケーションの異なる層を担っています。 処理量と支出の関係は、研究所レベルでも急速に変化します。いくつかの具体的なシグナルを示します： Gemini Flash は、Google が支出シェアのより少ない割合で処理量の首位に立つのを支援しました Claude Opus は、Google よりも少ない処理量で Anthropic を支出シェアの首位に導きました OpenAI の支出シェアは、GPT-5.4/5.5 のリリース後、3 月から 4 月にかけて 3 倍になりました Google の支出シェアは、Gemini Flash の利用が拡大するにつれ、3 月の 8% から 4 月の 21% に上昇しました 支出は「間違いを犯すコスト」に従います 特定のワークロードの種類内部でも、より細かな粒度で同じコストと処理量の分断が存在します： パーソナルアシスタントは、トークン処理量の 40% を占める中でコストの 20% を占めています コーディングエージェントは、トークンの 20% でコストの約 22% にバランスよく位置しています バックオフィスエージェントは、トークンの 15% でコストの 6% で稼働しています アプリ生成は、トークンの 11% でコストの 7% で稼働しています 1 トークルあたりのコストは、そのユースケースにおいて誤った回答がどれほど高価になるかという関数です。パーソナルアシスタントは、ミスが個人ユーザーに影響しやすく、すぐに修正できるため、安価で高速なモデル上で動作できます。一方、バックオフィスワークフローでは、エラーが法的・財務的または運用上のリスクを招き、1 回あたりの呼び出しコスト削減を上回る可能性があるため、より強力な推論能力に対して支払います。1 トークルあたりの経済性はステークホルダーの地図のようなものであり、ミスのコストが高いほどアプリケーションは 1 トークルあたりにより多くを支払います。 このパターンは、より広範な B2C（企業対消費者）と B2B（企業対企業）の分割においても同様です。B2C アプリケーションは多数の低コスト呼び出しを生成する一方、B2B アプリケーションは fewer でより高価な呼び出しを実行します。1 トークルあたりで見ると、B2B のコストは B2C の約 2 倍になります。 単一のプロバイダーがすべてのユースケースで勝利することはない ユースケース別にデータを切り出すと、プロバイダーの状況は断片的であることがわかります： Anthropic は特にソフトウェア構築においてリードしています Google は消費者向けに過剰に集中しています OpenAI は最も均等に分布しています xAI および他社はコーディング、消費者向け、ロングテールユースケースに分散しています Anthropic のパターンは、高リスク層における集中です。ワークロードがバックオフィスから消費者向けへ移行するにつれ、Anthropic のトークンシェアは 71% から 7% に低下します。そのコストシェアはより緩やかな曲線を描き、4 つのカテゴリのうち 3 つでリードを維持しています。収益は、処理されるボリュームの量に関わらず、回答が正しくなければならない場所に集中します。 Google は逆の形状をしています。その足跡は消費者向けに集中しており、Gemini Flash がトークンの 28% を担いながらコストは全体の 15% に抑えられており、それ以外の分野ではコストチャート上にほとんど姿を現しません。このポジションは、Flash の採用状況に連動して上昇・下降する単一 SKU（製品）への賭けです。 xAI は価格の楔（くさび）となっています。Grok は、それぞれの分野でより大幅に小さいコストシェアの中で、ビルディング用トークンの 20% とアウトリーチ用トークンの 18% を担っています。xAI は価格対品質の適合性において勝利しており、その価格に追随する者が楔を埋めることになります。 OpenAI は、4 つの企業の中で最もバランスが取れています。ビルディングコストの 6%、消費者向けコストの 18%、アウトリーチコストの 28% を占めています。どの単一の層も OpenAI の全体シェアを支える決定的な要素ではないため、同社はどの層での混乱に対しても 4 つの企業の中で最も曝露度が低いと言えます。 Kimi、MiniMax、GLM などのオープンウェイト（重み公開）ファミリーは、コスト上限が最も低い消費者向けおよびビルディング層を回転しています。彼らのコストシェアは小さいままですが、消費者向けおよびビルディング内でのトークンシェアは十分大きく、コストのみを重視した市場分析では彼らを過小評価することになります。 単一の支配的なユースケースが存在しないため、市場全体に単一の支配的プロバイダーも存在しません。問うべきは「AI で誰が勝っているか」ではなく、「私が関心を持つユースケースでどのモデルが勝っているか」という点です。ブレンデッドチャート上で最も均衡しているように見えるラボたちは、同じスタックの異なる層を巡って競合しています。 アプリケーションはよりエージェント型へと進化している このすべての背景の下、生産環境における AI リクエストの形状は変化しています。2026 年 4 月には、AI Gateway のリクエストのうちツール呼び出しで終了する割合が 11.4% から 22.2% に上昇しました。トークン数で測ると、この変化はより顕著です。現在、すべてのトークンのうち 58.9% がツール呼び出しリクエストに占められており、これは 6 ヶ月前の 31.6% から大幅な増加です。 両方の指標において、エージェントによる利用割合は半年で約倍になりましたが、より示唆に富むのはこの二つの割合の差です。リクエストの 22.2% がトークンの 58.9% を占めているということは、ツールを使用するリクエストは残りのリクエストよりも約 2.6 倍もトークン消費量が多いことを意味します。AI のコスト構造はチャット型からエージェント型へとシフトしましたが、表向きのリクエスト数はほとんど変化していません。 関数実行、API 呼び出し、データベースクエリ、コード実行のいずれであっても、ラウンドトリップ（往復）はすべて同じメーターで課金されるため、10 のツール呼び出しを行うエージェントは、チャットが消費するトークンの約 10 倍を請求されます。チャットではプロンプトごとに 1 ラウンドトリップが課金されるのに対し、エージェントでは一連の連鎖（チェーン）として課金されます。 リーダーボードでは一つのモデルがランク付けされますが、生産環境のチームはスケーリング時に 35 種類以上のモデルを使用しています。 大規模運用においては、マルチモデル構成はもはや選択肢ではなく、標準的なエージェントアーキテクチャとなっています。 1,000 から 10,000 のリクエストを処理するチームでは平均して 3 つの異なるモデルを使用していました。一方、1,000 万回以上のリクエストを扱うバケットでは、通常使用されているモデルの平均数は 35 に達します。100 万から 1,000 万回のバケットにおける 18 モデルから、1,000 万回超のバケットにおける 35 モデルへの飛躍が、その転換点（インフレーションポイント）です。 35 モデルのフリートはルーティンググラフとして稼働しており、意図検出用の安価な分類器、推論ステップ用の最先端モデル、検索用の埋め込みモデル、要約用の高速モデル、スクリーンショット用のビジョンモデルを備えています。これらのモデルはすべて交換可能です。プロバイダーが価格を引き上げたり、品質を低下させたり、障害が発生したりした場合、トラフィックは数時間以内に残りのモデルに再分配されます。リーダーボードの支出の大部分を生み出す規模において、ラボ間の切り替えはベンダー移行というよりも設定変更に近いものであり、リクエスト量曲線の上昇に伴って高くなるほど、ラボロックインに関する一般的な物語は逆転します。 新モデルは急速に採用される 同じフリート設計が、なぜ新リリースが迅速に取り込まれるかを説明しています。モデルファミリー内で新しいバージョンがリリースされると、トラフィックは数週間でその新版本へ移行します。 Claude Sonnet 4.6 は、ローンチから最初の完全な月までに、Sonnet ファミリーのシェアの大部分を吸収しました。 Opus ファミリも現在同じ軌道を進んでおり、Claude Opus 4.7 が Opus 4.6 からシェアを奪っています。これはほぼ同一の曲線に沿ったものです。 先行モデルは両方の期間中、AI Gateway で稼働し続けたままルーティング可能でしたが、チームはそれでも移行を行いました。この移行は設定変更であり、ラボはもはや自社の製品ラインのアップグレード時期を設定する立場にはありません。 プロバイダー障害には隠れたコストがある AI Gateway で処理されたリクエストの約 3.5% は、フォールバック後に完了しています。これは、初期のルーティングがエラー、レート制限、またはタイムアウトに遭遇したが、ゲートウェイが健全な代替先へ素早くリクエストを再発行し、ユーザーには依然として成功したレスポンスが届いたことを意味します。 トークン数で測定すると救済率は 5.1%、金額換算では 4.9% です。トークン加重およびコスト加重のレートがリクエスト加重のレートよりも高くなるのは、救済されたリクエストは平均して、救済されなかったリクエストよりも規模が大きく、コストがかかるためです。長いコンテキストウィンドウは短いものよりも頻繁にレート制限に遭遇し、マルチステップエージェントの実行ではステップ間で失敗が蓄積され、重い推論呼び出しは持続的な負荷下でタイムアウトします。これらの故障モードのすべてが、ワークロードのコストの高い側面を標的とするため、ドル換算でのレートはリクエスト数ベースのレートよりも高くなります。 プロバイダの SLA（サービスレベルアグリーメント）はリクエストレベルの稼働率を測定しますが、実際の生産アプリケーションではコスト加重の稼働率が体験され、モデルへの支払いに直結する呼び出しにおいてこの 2 つは乖離します。 結論：ラボではなくワークロードのために構築せよ 生産環境でのワークロードは、最新のモデルリーダーボードに合わせるためではなく、効率性、信頼性、柔軟性を追求して設計されています。 同じデータの 6 つの切り口を通じて見ても、その背後にある形状は変わりません。異なるラボが同一アプリケーションの異なるレイヤーで勝利を収めますが、それらのレイヤーを処理するアーキテクチャこそが、スケールする生産チームがすでに構築してきたものです。 これは初期のクラウド時代の様子と重なります。チームはまず計算リソースを拡大し（より多くのインスタンス、リージョン、冗長化）、その後単価コストを圧縮しました。支出曲線の上部に見える 35 モデルのフリートも、同じパターンがより高速なペースで繰り返されているに過ぎず、その後の最適化はルーティング層で行われます。 今日 AI を実装するすべての人へ: 複数のプロバイダーにまたがるモデルを計画してください 稼働率とコストの最適化のためにフォールバックの必要性を想定してください アーキテクチャの初期段階から、ルーティングをコアユニットとして設計してください パターンが変化するにつれて、このデータは定期的に見直すことを期待しています。最新のモデルランキングは AI Gateway リーダーボードで確認できます。 本データについて 本分析は、2026 年 4 月までの Vercel AI Gateway からの匿名化された集計ルーティングデータを基にしています。 測定に関するいくつかの注記: 支出額は、市場価格（公開リスト価格）を使用し、独自 API キーを持つチーム間での比較を可能にする正規化された視点を提供します。 ボリュームは、AI Gateway を経由してルーティングされたトークン数をカウントしたものです。 B2C、B2B、およびユースケース分類は集計値です。個々のチームやワークロードが特定されることはありません。 続きを読む

AI Gateway の生産性インデックス

背景や根拠まで確認しますか？

関連記事

調べる

選ぶ

サイト