リアルタイムの GPU ファーム可視化と最適化を可能にする「NVIDIA Fleet Intelligence」の発表

大規模 GPU ファームの計算能力は、記録的なスピードで革新を起こし、顧客に価値を提供する前例のない機会をもたらします。しかし、これらの進展にはさまざまな課題が伴います。スケールが大きくなるにつれて、チームは多様なハードウェア、急速に変化するソフトウェアスタック、厳しい電力制限、そしてスパイク状のマルチテナントワークロードを同時に処理しなければなりません。単一のホットスポット、誤設定されたドライバー、あるいは微妙なハードウェア障害が連鎖し、ジョブのスロットリング、SLA の未達成、無駄な支出を引き起こす可能性があります。 また、大規模クラスターに関与するコンポーネントの複雑さと数は圧倒的なものとなるため、日々の運用を可視化し、任意の時点での運用状態を理解することが不可欠です。ジョブ実行中の GPU 利用率の監視やボトルネックの特定はより困難になります。低利用率の領域を特定し、ワークロードをそこに移行することは、投資対効果を最大化するための最良の方法の一つです。 これらの理由から、スケールにおいては GPU 対応型のモニタリングが不可欠です。チームはノードが稼働しているかどうかだけでなく、任意の時点ですべてのアクセラレータが期待通り、安全に、かつ一貫して動作しているかどうかを知る必要があります。 本記事では、[NVIDIA Fleet Intelligence](https://docs.nvidia.com/fleet-intelligence/index.html) をご紹介します。これは[NVIDIA データセンター GPU](https://resources.nvidia.com/l/en-us-gpu)の継続的な監視のためのエージェントベースのマネージドサービスであり、現在一般提供されています。 ## GPU モニタリングの主要な焦点領域とは何ですか？ GPU モニタリングの重要な領域には、電力、温度、パフォーマンス、健全性、および一貫した構成が含まれます。 - 電力：ワットあたりのパフォーマンスを最大化しながらデータセンターの予算内に収まるよう、電力使用状況とスロットリングを追跡します。 - 温度：サーマルスロットリングや部品の早期劣化を防ぐために、ホットスポットや空気流の問題を早期に検出します。 - パフォーマンス：利用率、メモリ帯域幅、相互接続の健全性、およびスロットリングの原因を監視し、フリート全体での性能低下や不均衡を検出します。 - 健全性：ECC エラー、XID エラー、リタイア済みページ、HBM/NVLink/PCIe の異常、その他の RAS（信頼性・可用性・保守性）シグナルを表面化し、故障する前に不良部品を特定します。 - 一貫した構成と整合性：GPU インベントリの検証の一環として、再現可能な結果と安全な運用を確保するために、ドライバー、ファームウェア、BIOS 設定が統一されているかを確認し、ファームウェアの整合性を検証します。 ## NVIDIA Fleet Intelligence とは何か？ NVIDIA Fleet Intelligence は、ソフトウェアスタックやスケジューラーの選択に関係なく使用できる、低レベルでデプロイメントに依存しないマネージドサービスです。当初、このサービスは自社のインフラストラクチャを管理しているデータセンター GPU および CPU の顧客、および GPU や CPU の動作についてより深い洞察を必要とするエンジニアを対象としています。 本サービスは、NVIDIA 製品ポートフォリオ全体にわたる技術と知的財産（IP）、および [NVIDIA DGX Cloud](https://www.nvidia.com/en-us/data-center/dgx-cloud/) で数十万基の GPU を運用して得た知見を活用しています。 Fleet Intelligence は、低負荷のホストベースエージェントを使用して、GPU のテレメトリデータを完全に管理された Fleet Intelligence クラウドサービスへストリーミングします。監査可能性を確保するため、NVIDIA は Fleet Intelligence エージェントをオープンソースプロジェクトとして公開しています。このエージェントは、[GPUd](http://gpud/) や [NVIDIA Data Center GPU Manager (DCGM)](https://developer.nvidia.com/dcgm)、さらに NVIDIA の [Attestation SDK](https://docs.nvidia.com/attestation/nv-attestation-sdk-cpp/latest/overview.html) といった、他の NVIDIA オープンソースソリューションを活用しています。詳細については、GitHub の [NVIDIA/fleet-intelligence-agent](https://github.com/nvidia/fleet-intelligence-agent) をご覧ください。Fleet Intelligence は、NVIDIA Cloud Partners (NPCs)、Lambda、IREN などを含む早期アクセス（EA）顧客からのフィードバックを反映して開発されました。 この一般提供（GA）リリースでは、主に以下の 3 つの領域に焦点を当てています： - インベントリと可視化 - レポート、アラート、およびヘルスチェック - 整合性とアテステーション ## インベントリと可視化 Fleet Intelligence は、データセンターやクラウド全体にわたるグローバルなインベントリを可視化する豊富な機能を提供します。最小限の負荷で動作するエージェントは、GPU ワーカーノード上で Linux パッケージマネージャーまたは Helm を使用してインストールされます。 ![image](https://developer-blogs.nvidia.com/wp-content/uploads/2026/05/nvidia-fleet-intelligence-dashboard.webp)*図 1. NVIDIA Fleet Intelligence ダッシュボードは、GPU およびメモリの利用率や稼働中の GPU の総数など、ファーム全体を集約したデータを要約して表示します* 登録完了後、エージェントはノードレベルの情報を捕捉し、[NVIDIA NGC](https://www.nvidia.com/en-us/gpu-cloud/) に常駐するヘルスポータルに表示されます。ユーザーとして、あなたはグローバルに、あるいは計算ゾーン別に GPU ファームの利用状況を表示できます。これには、同じ物理的またはクラウド環境に登録されたノードのグループも含まれます。 インフラストラクチャのあらゆるレベルで、異常は即座に検出されます。例えば、電力消費量や温度が閾値を超えた場合のエラーなどが該当します。これにより、アラートをトリガーした詳細な情報を直接確認することが可能になります。 ## レポーティング、アラート、およびヘルスチェック Fleet Intelligence エージェントは、GPUd および DCGM（Data Center GPU Manager）の技術を活用しています。両ツールから提供されるメトリクスが分析され、レビューのためにヘルスサービスへ送信されます。このエージェントにより、Fleet Intelligence はファームの健康状態をニアリアルタイムで監視し、定期的なヘルスチェックを実行できます。エージェントは、ホスト、GPU、[NVLink](https://www.nvidia.com/en-us/data-center/nvlink/)、およびネットワークに関するテレメトリデータを収集し、システム全体の健全性に関する包括的な画像を提供します。 シグナルが収集されると、サービスは現在の状態と履歴の文脈内でエラーを分析し、修復アクションに関する推奨事項を提供します。エージェントは読み取り専用であり、ホスト設定を変更することはなく、機械テレメトリおよび状態データのみを収集します。収集されたデータを検証するには、ローカルでサンプル出力を作成するか、公開リポジトリからソースコードを確認できます。 また、エラーや障害が発生した場合に、メール、Slack、その他のチャネルを通じてアラートメッセージを受信するオプションを選択したり、低利用率閾値やその他の関心領域に対してカスタムアラートを設定したりすることも可能です。ユーザーはレポートを構成して、電力消費のインベントリと履歴グラフ、温度トレンド、エラー、ダウンタイムを表示できます。 ![image](https://developer-blogs.nvidia.com/wp-content/uploads/2026/05/nvidia-fleet-intelligence-machine-view.webp)*図 2. マシンビューは、ソートされたマシンまたはホストのリストと、個々のマシン固有のメタデータを表示します* Fleet Intelligence エージェントは、パッシブヘルスチェックおよび定期的なチェックを採用しています。これらのヘルスチェックは、DCGM および GPUd を通じて利用可能です。運用から得られた知見に基づいて新たに作成されたヘルスチェックは、利用可能になった次第に追加されます。Fleet Intelligence は、インストールベース全体における障害やエラーに関する匿名シグナルおよびその他のメタデータを継続的に収集します。このアプローチにより、将来のリリースで提供される予測故障分類モデルに適用するためのデータの忠実度を高めることが可能になります。 ![image](https://developer-blogs.nvidia.com/wp-content/uploads/2026/05/nvidia-fleet-intelligence-machine-view-alert.webp)*図 3. マシンビューは、個々のマシンに関連するアラートを表示します* ## 整合性とアテステーション [NVIDIA Confidential Computing](https://www.nvidia.com/en-us/data-center/solutions/confidential-computing/) ソリューションから提供される技術を活用し、Fleet Intelligence は暗号化により GPU の整合性を検証し、システムの真正性と信頼性を保証します。Fleet Intelligence エージェントは、Attestation SDK を使用して、実行時に GPU（または「証拠」）からの測定値を取得します。これらの測定値は、NVIDIA 信頼の根拠に基づくオンデバイス証明書を使用してデジタル署名されます。 その証拠は、安全なチャネルを介して [NVIDIA Remote Attestation Service (NRAS)](https://docs.nvidia.com/attestation/index.html) に送信され、検証が行われます。NRAS サービスは、vBIOS ビルドの一部として生成される構造体である NVIDIA の [Reference Integrity Manifests (RIMs)](https://docs.nvidia.com/attestation/cloud-services/latest/rim/rim_introduction.html) を活用しています。NRAS サービスは、証拠が期待値と一致することを確認し、Fleet Intelligence サービスに対して合格・不合格の結果を返します。 その後、インベントリダッシュボードを表示して、毎日またはオンデマンドで実行される結果としての整合性チェックを確認できます。これらの整合性チェックにより、ファームウェア内のすべての GPU が、改ざんされておらず、最新の状態であることが確認された信頼できる設定を持っていることを保証します。また、現在の整合性ステータスを含む GPU ファームウェア情報の詳細を記載した Fleet Intelligence レポートを作成することも可能です。これらはダウンロードして、他のレポートツールと併用することができます。 Lambda のチーフサイエンティフィックオフィサーである Chuan Li 氏は、「NVIDIA Fleet Intelligence は、最小限の設定で Lambda の研究チームに、NVIDIA Blackwell/Hopper GPU ファームウェア全体にわたるエンドツーエンドの可視性をもたらしました。そのアラートは、アクティブな障害だけでなく、早期警告サインも捉えます。また、レポートによりファームウェア全体の健全性を実行可能なインサイトに変換します。」と述べています。 ## NVIDIA Fleet Intelligence の利用開始 NVIDIA Fleet Intelligence サービスは、NVIDIA GPU および CPU フリートの電力、温度、パフォーマンス、健全性、設定に関する包括的なインサイトを提供し、すべてのチップが最適な効率と信頼性で動作することを保証します。リアルタイムテレメトリのための低フットプリントエージェントの統合と、堅牢な可視化およびアラート機構を組み合わせることで、企業は ROI の最大化と最適な運用基準の維持を実現できます。 [オープンソースの Fleet Intelligence エージェント](https://github.com/nvidia/fleet-intelligence-agent) と、最先端の整合性および証明技術の採用は、透明性とセキュリティに対する NVIDIA のコミットメントを強調するものです。企業が GPU および CPU デプロイメントを拡大し続ける中、Fleet Intelligence は現代のデータセンターの複雑さをナビゲートするための不可欠なツールを提供し、多様な環境全体で持続可能かつ予測可能なパフォーマンスを保証します。 [NVIDIA Fleet Intelligenceへのアクセスをリクエスト](https://developer.nvidia.com/fleet-intelligence-service)し、GPU フリートの利用可能性と整合性をどのように向上させるかを firsthand で体験してください。現在、このサービスは一般利用可能となり、NVIDIA データセンター GPU の所有者、運用者、およびクラウドテナントに対して無償で提供されています。Fleet Intelligence は、NVIDIA データセンタークラス GPU アーキテクチャである [Vera Rubin](https://www.nvidia.com/en-us/data-center/technologies/rubin/)、[Blackwell](https://www.nvidia.com/en-us/data-center/technologies/blackwell-architecture/)、および [Hopper](https://www.nvidia.com/en-us/data-center/technologies/hopper-architecture/) をサポートしています。アテステーション（証明）機能は、Vera Rubin と Blackwell のみで利用可能です。

リアルタイムの GPU ファーム可視化と最適化を可能にする「NVIDIA Fleet Intelligence」の発表

背景や根拠まで確認しますか？

調べる

選ぶ

サイト