GPU4台必要なら時間単価は商品ではない

記事の3ポイント

1. 1

   表向きの価格と実需価格の乖離

   H200 の単体時価は約 3.93 ドルだが、同一マシン内に 4 枚を確保すると供給が半分になり価格は 4% 上昇し、8 枚ではサンプルに存在しない。

2. 2

   ワークロードの集約要件

   トレーニングやファインチューニング、高スループット推論には、複数の同一 GPU が同一マシンまたはクラスター内に配置され、十分な相互接続と可用性が必要である。

3. 3

   厳格なサンプリング手法

   分析では Vast.ai のオンデマンドオファーから、7 日以上利用可能で信頼性スコアが 99% 以上の物理マシンに限定し、37 台の機械と 93 枚の GPU を抽出した。