#gpu インフラのAIニュース

6件の記事

[AINews] スペースX はすでに年間 280 億ドル規模のネオクラウド企業となっている

スペースX が Reflection AI と GPU 賃貸契約を結んだことで、Anthropic や Google との取引を含め、同社は年間 280 億ドル規模の「ネオクラウド」事業へと成長している。

TLDR AI が、主権 AI の実現には単に高性能なモデルを開発するだけでなく、計算資源やデータ流通を含むサプライチェーン全体の課題解決が不可欠であると指摘している。

xAI がアンソロピックと Google と提携し、両社に大量の計算リソースを提供する一方、収益は SpaceX に還流している。この契約により xAI は短期間で設備投資を回収でき、事実上極めて利益率の高い取引となっている。

Modal は、推論ワークロードの変動に対応するため、新しいレプリカの起動時間を数キログ秒から数十秒に短縮し、真のサーバーレス GPU スケーリングを実現した。

開発チームが本番環境で動作していた「Copy Fail」という機能を、732 バイトのコード量を含む状態から完全に停止・削除した。

この記事は、企業がセルフホスト型の大規模言語モデルを実運用する際の計算リソースやコストの限界を指摘し、それを克服するための具体的な回避策と、失敗から得た重要な教訓を報告しています。