NVIDIA、AIモデル配信基盤「ModelExpress」を発表

記事の3ポイント

1. 1

   既存リソースの活用による転送最適化

   NVIDIA ModelExpress (MX) は、モデル読み込み前にクラスター内に互換性のあるウェイトのコピーが存在するかを確認し、存在すれば最も高速な経路を選択する。

2. 2

   P2P RDMAによるストレージ迂回

   NVIDIA Inference Xfer Library (NIXL) を介して GPU から直接 GPU へ P2P RDMA で転送を行い、オブジェクトストレージやローカルディスクへのアクセスを不要にする。

3. 3

   起動時間の劇的な短縮実績

   DeepSeek-V4 Pro のウェイト転送において、起動時間を 8 分から 1 分 44 秒に短縮し、転送自体を 10 秒未満で完了させることに成功したと発表している。