Microsoft、AKSにDRA対応のNVIDIA vGPUサポートを追加

Azure Kubernetes Service チームは、AKS で NVIDIA vGPU テクノロジーと Dynamic Resource Allocation (DRA) を使用する方法に関する詳細なガイドを共有しました。この更新により、AI およびメディアタスクにおける共有 GPU 利用の制御性と効率性が向上します。 Dynamic Resource Allocation (DRA) は現在、Kubernetes における GPU リソース利用の標準となっています。nvidia.com/gpu などの静的リソースに代わり、DeviceClasses と ResourceClaims を用いて GPU が動的に割り当てられます。この変更によりスケジューリングが強化され、NVIDIA vGPU などの仮想化技術との統合が改善されます。 これらの技術を組み合わせる理由は明確です。NVIDIA vGPU などの仮想アクセラレータは、多くの場合小規模なタスクを処理します。これにより、1 つの物理 GPU を多数のユーザーやアプリケーション間で分割して使用することが可能になります。この構成は、エンタープライズ向けの AI/ML 開発、ファインチューニング、音声・映像処理において有益です。vGPU はコンテナ化されたワークロードに CUDA の機能を提供しつつも、予測可能なパフォーマンスを実現します。 インフラストラクチャ側では、この機能は Azure の NVadsA10_v5 仮想マシンシリーズに依存しています。GPU を 1 つの VM に完全に割り当てるのではなく、vGPU テクノロジーによりハイパーバイザ層で複数の固定サイズのスライスに分割されます。Kubernetes の視点からは、各 VM は明確な GPU デバイスを 1 つ持つことになります。容量とメモリの制限はソフトウェアではなく、ハイパーバイザによって設定されます。 セットアップには Kubernetes 1.34 以降が必要です。現時点では、deviceclasses や resourceslices といった DRA プリミティブが利用可能です。チームは NVadsA10_v5 インスタンスを持つノードプールをプロビジョニングし、NVIDIA DRA kubelet プラグインのノードセレクターとしてラベル (nvidia.com/gpu.present=true) を適用します。その後、Helm を経由して NVIDIA DRA ドライバーを展開します。この投稿では、vGPU シナリオにおける 3 つの重要な Helm フラグが強調されています。gpuResourcesEnabledOverride=true というフラグは、異なる GPU 名のためにレガシーデバイスプラグインとの併用インストールを防止するチェックをスキップします。FeatureGates.IMEXDaemonsWithDNSNames=false は、Azure の A10 シリーズでサポートされているバージョンよりも新しい GRID ドライバーバージョンを必要とする IMEX 機能を無効化します。 ドライバーがアクティブになると、各ノードをスキャンして Azure VM から単一の vGPU デバイスを検出し、それを DRA 管理デバイスとして Kubernetes コントロールプレーンに登録します。各ノードは VM が提示するものに応じて、1 つの割り当て可能なデバイスを登録します。オペレーターは gpu.nvidia.com DeviceClass や ResourceSlices を確認することでセットアップを検証できます。これにより、コントロールプレーンが利用可能なハードウェアを検出したことを確認できます。 ベースラインとなる 1/6 スライス（Standard_NV6ads_A10_v5）に加え、このシリーズではアクセラレータメモリ 8 GB を備えた 1/3 プロファイルと、12 GB の 1/2 プロファイルも提供されています。制限はハイパーバイザ層で enforced されるため、AKS は予測可能な容量を持つ単一の GPU デバイスとして認識します。これにより、プラットフォームチームはノードの過剰プロビジョニングを行わずに、ワークロードの要件に基づいて GPU の割り当てサイズを柔軟に調整できます。 AKS チームは、この機能のより広範な意義を方向性として捉えています。GPU が Kubernetes においてファーストクラスのリソースとなる中で、仮想化された vGPU と DRA（Device Resource Allocation）を組み合わせることで、共有型かつ本番環境グレードのワークロードを実行する実用的な手段が得られます。大規模な AKS デプロイメント、特に規制産業やコスト敏感な業界においては、最適な GPU の配置と利用率がジョスのスループットとインフラ効率に直接影響を及ぼします。vGPU と DRA を併用することで、組織は粗いノードレベルの割り当てから、大規模かつ制御されたワークロード駆動型の GPU 利用へと移行することが可能になります。 Google Cloud は GKE においても同様の道筋をたどっており、GPU と TPU の両方に対するスケジューリングの基礎要素として DRA に注力しています。GKE の DRA サポートにより、ワークロードは CEL 式を使用して特定の属性を持つデバイスをフィルタリングできます。これにより、異なる GPU タイプを備えた複数のクラスターに対して、変更を加えることなく単一のマニフェストからデプロイが可能になります。特に vGPU に関しては、Google は最近、GKE を介して管理され、コンテナのビンパッキングと組み合わせてより高い利用率を実現する、RTX PRO 6000 Blackwell GPU に基づく NVIDIA vGPU テクノロジーを活用した断片的な G4 VM のプレビューを発表しました。Google の動的ワークロードスケジューラ（Dynamic Workload Scheduler）を介してスケジュールされる場合、フォールバック優先順位によりリソースへのアクセスが改善されます。 Amazon EKS は異なるアプローチを採用しており、DRA を主に高価な GPU ハードウェアの複雑さを簡素化するために使用し、断片化された共有のためには使用していません。Amazon EKS では、Kubernetes バージョン 1.33 から DRA が一般提供されました。この技術は、P6e-GB200 UltraServer インスタンスにおいて不可欠です。これらのインスタンスでは、従来の静的 GPU スケジューリングでは、マルチノードワークロードに必要な NVLink や IMEX 相互接続をモデル化することができません。EKS でより小規模なワークロードを実行し、GPU の共有を望むチームにとって、DRA は now、構造化された属性ベースのリクエストをサポートするようになりました。これにより、スケジューラーは「計算能力が少なくとも 1/7 分の 10 GB の MIG パーティション」といったリクエストに応答できるようになり、GPU を単なるカウントとして扱う必要がなくなります。3 つの主要クラウドプロバイダーすべてにおいて、静的デバイスプラグインから DRA への移行が加速しています。これは、AI インフラストラクチャの複雑さとコストが増大する中で、より表現力豊かでトポロジー認識型の GPU スケジューリングが必要とされていることによるものです。 About the Author Claudio Masolo Claudio は Nearform のシニア DevOps エンジニアです。趣味はランニング、読書、そして古いビデオゲームをプレイすることです。

Microsoft、AKSにDRA対応のNVIDIA vGPUサポートを追加

背景や根拠まで確認しますか？

関連記事

調べる

選ぶ

サイト