ページを読み込み中…
ページを読み込み中…
3件の記事
Latent Space は、推論インフラ分野で急成長する Fireworks と Baseten を新世代のユニコーン企業として紹介し、同社が運営する OpenRouter の参入も示唆している。
推論市場はワークロードの違いにより分断され、モデル生態系がレイテンシ層やマルチモーダルモデルなどに細分化されている。各モデルタイプには異なるインフラ要件があり、これが新たな勝者を生む余地を作っている。
AI インフラ企業 DeepInfra が、Hugging Face の推論プロバイダーリストに正式に登録され、開発者が同社の高速推論サービスを利用可能になった。