#inference infrastructure のAIニュース

2件の記事

[AI ニュース] 新たな AI インフラのユニコーン企業：Fireworks、Baseten（OpenRouter も進行中）

Latent Space は、推論インフラ分野で急成長する Fireworks と Baseten を新世代のユニコーン企業として紹介し、同社が運営する OpenRouter の参入も示唆している。

推論市場はワークロードの違いにより分断され、モデル生態系がレイテンシ層やマルチモーダルモデルなどに細分化されている。各モデルタイプには異なるインフラ要件があり、これが新たな勝者を生む余地を作っている。