Baseten CEO トーヒン・スリワスタヴァ、カスタムモデルと推論クラウド構築を語る

AI 推論市場が 30 倍に急拡大！Baseten CEO が語る「カスタムモデル」の時代と GPU 供給の現実

AI 推論クラウド市場は過去 1 年で驚異的な 30 倍成長を遂げ、今年度には売上高 10 億ドル規模へと到達しました。これは単なる技術の進化ではなく、企業が「汎用モデル」から「自社データで最適化されたカスタムモデル」へ移行する決定的な転換点です。

Baseten の CEO トーヒン・スリワスタヴァ氏は、この急成長の背景には「アプリケーション層の存続理由」と「GPU 供給の構造的な逼迫」があると分析します。AI が単なるツールから、企業固有のワークフローに深く組み込まれた知能へと進化し、未来はパーソナライズされたエージェントによるコンシェルジュ体験が標準になると予測しています。

フロンティアモデル企業が越えられない「独自データ」の壁

AI 市場において最も議論されるべき質問の一つに、「独立したアプリケーション層は、巨大なモデル開発企業（フロンティアモデル）によって駆逐されるのか」というものがあります。スリワスタヴァ氏はこれに対し、明確に「いいえ」と答えました。

アプリケーション層が存在する理由は、企業が収集できる『ユーザー信号』と『独自のワークフロー』にあるからです。

汎用モデル（フロンティアモデル）は強力ですが、特定の業界や企業固有のデータにはアクセスできません。例えば医療現場では、医師が患者のメモを編集し、電子カルテ（EMR）システム内で複雑な処理を行うという「3 段階のワークフロー」が存在します。このプロセスは、外部の巨大 AI 企業がユーザー信号にアクセスできないため模倣することが極めて困難です。

ユーザー信号を持つ企業は、そのデータを元にモデルをポストトレーニング（微調整）し、長期的な競争優位性を築くことができます。

サポート業務も同様です。一つの問い合わせに対して、1 回から 20 回のアクションが必要となるケースでは、汎用モデルではなく、その企業の独自データで訓練された専門モデルが不可欠となります。このように、企業固有のデータとワークフローに深く統合されたアプリケーション層は、むしろ重要性を増して存続し、成長していくのです。

オープンソースと RL 技術が加速させた「推論内製化」の波

なぜ市場がこれほど急拡大したのか。その背景には、オープンソースモデルの性能向上と、強化学習（RL）技術の一般化があります。

2 年前までは「AI ツールを使っているか」という段階でしたが、現在は「どのようにカスタムモデルを運用するか」が問われる時代へと移行しています。スリワスタヴァ氏によると、現在顧客が推論を自社内で所有する動きはすでに 99% 完了している状態です。

顧客はまず機能性を最優先します。経済成長と価値提供の源泉となるのはここだからです。その後でコスト最適化が行われます。

かつては Mistral や Llama など特定のモデルが主流でしたが、現在は GPT、Moonshot、DeepSeek、Orpheus（音声特化）など多様な選択肢から最適な組み合わせを選定する時代です。特に DeepSeek の登場は、プロダクション環境でのコストを 20% 以下に抑えつつ、同等以上の性能と信頼性を実現した画期的な事例として注目を集めています。

GPU 供給の逼迫と「資本力」が勝敗を分ける過渡期

市場の急成長に伴い、GPU の供給不足は深刻化しています。しかし、問題は単にチップがないことだけではありません。

現在、多くのサプライヤーが存在しますが、彼らはデータセンターを運営した経験がなく、SLA（サービスレベルアグリーメント）の重要性を理解していないケースが多いです。

スリワスタヴァ氏は、推論において信頼できるクラウドプロバイダーは世界でも十数社程度しかなく、そのうち 3〜4 社が「ゴールドティア」として機能しているに過ぎないと指摘します。供給量だけでなく、運用ノウハウを持つ人材の不足も深刻なボトルネックとなっています。

この状況下で、企業が生き残るための鍵は以下の 2 点です。

1. 長期的な契約: 市場の動きが速い中で、1〜3 年先までの需要が見えていることが重要です。短期間の契約では容量を確保できません。
2. 低コスト資本: 供給できる十分な需要があることに加え、長期的な設備投資を支えるための安価な資金調達力が競争優位性となります。

H100 は素晴らしいチップですが、4 年半前の製品でありながら価格が上昇し続けています。これは市場のダイナミクスを大きく変えています。

Baseten 自身も、18 の異なるクラウドにまたがる 90 のクラスターを運用し、柔軟なリソース獲得と冗長性を確保することでこの課題に対処しています。しかし、一般企業にとって「今すぐ容量を購入すべきか」という問いには、市場の速度と資本力を考慮した慎重な判断が求められます。

エージェントによる未来：「ソフトウェア」から「知能」への転換

最終的に、AI の未来は「ソフトウェアから知能へ」という転換点にあります。推論コストの低下により、長時間稼働するエージェント（自律型 AI）が現実のものとなっています。

医療、教育、サポートなどあらゆる分野で、パーソナライズされたコンシェルジュ体験が未来の標準になります。

スリワスタヴァ氏は、AI が単なるツールを超え、企業の業務プロセスそのものとして機能する時代が来ると予測します。特にポストトレーニングと推論を結びつける研究が進むことで、モデルが生成したデータを評価し、報酬関数に基づいてさらに学習するというサイクルが構築され、より高度な知能が実現されるでしょう。

まとめ

AI 業界は現在、汎用モデルの提供から、企業固有データに基づくカスタム推論とワークフロー自動化へと重心を移しています。GPU 供給の逼迫と運用コストの高騰により、資本力と柔軟なサプライチェーンを持つインフラ企業が市場を支配する構造変化が加速しています。しかし同時に、独自データと深い統合を持つアプリケーション層は、AI の進化において不可欠な役割を果たし続けるのです。