NVIDIA Blackwell が初のエージェント型 AI インフラベンチマークで首位に立つ（4 分読）

Artificial Analysis が提供する AgentPerf は、業界初のアジェンティック AI ベンチマークであり、開発者、企業、インフラプロバイダーに対して、アジェンティック AI 向けのシステムを比較するための明確な手段を提供します。公開された最初のラウンドの結果において、[NVIDIA Blackwell Ultra NVL72](https://www.nvidia.com/en-us/data-center/technologies/blackwell-architecture/) プラットフォームは、テストされたアジェンティック AI ワークロード全体で首位の性能を示し、1 メガワットあたりの実行可能エージェント数が NVIDIA Hopper の 20 倍となりました。 アジェンティック AI は、対話型 AI とは根本的に異なるワークロードです。単一のチャット完了は短距離走のようなものであり、1 つの大規模言語モデル（LLM）呼び出しと 1 つの応答で構成されます。一方、エージェントはリレー競技のように機能し、目標を多数のステップに分解し、タスクが完了するまで継続して動作します。 ![image](https://blogs.nvidia.com/wp-content/uploads/2026/06/Agentic-Pipeline_v1-2.png) エージェントは、コンテキストの収集、観察、推論、そして行動のために、複数の LLM 呼び出しとツール呼び出しを連鎖させます。 その結果、数十から数百に及ぶ LLM 呼び出しが連鎖し、それぞれが次のステップへと成長するコンテキストを引き継ぎます。各引き渡し箇所では、コードのコンパイルや実行、データベース検索、ウェブブラウジングといったツール呼び出しが行われます。この複雑さは単に加算されるものではなく、乗算的に増大します。 性能測定においてこの区別は極めて重要です。既存の AI 推論ベンチマークは 1 つの LLM（大規模言語モデル）呼び出しのみを計測します：LLM が単一の要求に対してどれほど速く応答するか、そしてシステムが同時に処理できるリクエスト数がどの程度かです。これらはアジェンティックなワークロードのために設計されたものではありません。そこでは連鎖する LLM 呼び出し、ツール呼び出しの遅延、および増大するコンテキスト負荷が、単一の LLM 呼び出しでは決して起こり得ない根本的に異なる方法で計算システムを逼迫させます。 大規模にエージェントを構築・展開する企業にとって、エージェントの応答性、同時に展開可能な数、そして投資されたドルとワットあたり AI インフラストラクチャがどれだけの有用な作業を提供できるかを理解することが重要です。 ## NVIDIA GB300 NVL72 はメガワットあたり 20 倍のエージェントを実行 この最初のラウンドにおいて、AgentPerf は [DeepSeek V4 Pro](https://artificialanalysis.ai/models/deepseek-v4-pro/providers) を用いてアジェンティックな性能を測定します。これはフロンティアモデルのクラスを表す大規模混合専門家（MoE）モデルであり、今日最も能力の高いエージェントを支えるモデル群です。このワークロードにおいて、NVIDIA GB300 NVL72 はベンチマークで最高性能を示し、NVIDIA HGX H200 システムと比較してメガワットあたり最大 20 倍のエージェントを実行します。 ![image](https://blogs.nvidia.com/wp-content/uploads/2026/06/agentperf-blackwell-graph-1.jpg)NVIDIA GB300 NVL72 は、エージェントあたり 1 メガワットあたりの同時実行可能エージェント数が、NVIDIA H200 を大きく上回っており、これはエージェントあたり秒間 20 トークンおよび 60 トークンの両方のサービスレベル目標において顕著です。 この性能上の優位性は、フルスタックにわたる極限までの共同設計（codesign）によるものです。GB300 NVL72 は 72 個の GPU を単一のラックスケールシステムとして接続し、DeepSeek V4 Pro などの大規模 MoE モデルが、スケーリングされた環境でモデル実行を効率的に分散可能にします。 CUDA カーネルは、通信と計算処理を重畳させることでさらに加速し、エキスパート間での調整にかかるコストがレイテンシに加算されるのではなく吸収されます。 NVIDIA TensorRT LLM は、同時実行するエージェントセッションがスケールしても効率性を維持します。例えば、入力の処理と出力の生成を分離することで、それぞれを独立して最適化することが可能になります。 これらの結果は、生産環境でアジェンティック AI が実際にどのように動作するかを反映するように、ゼロから構築されたベンチマーク手法に基づいています。 ## Artificial Analysis AgentPerf: 実世界のワークロードに基づく設計 AgentPerf は、実際のコーディングエージェントの軌跡（trajectories）に基づいて構築されています。具体的には、エージェントがタスクを受け取り、ファイルを読み込み、コードを書いたり編集したりし、コマンドを実行して結果に基づいて反復処理を行うという一連の流れです。これらはすべて、12 以上のプログラミング言語にわたる実際の公開コードリポジトリから抽出されたものです。長いシーケンス長、ツール呼び出しのパターン、および遅延は、すべて実世界のコーディングワークフローを代表するものです。 AgentPerf は、応答性と出力トークンレートに関する定義されたパフォーマンス閾値を満たしながら、プラットフォームが同時にサポートできるこれらのエージェントタスクの数を測定します。ツール呼び出しは実行されず、代表的な CPU 処理時間を用いてシミュレーションされるため、結果の違いは加速されたコンピューティング性能のみを反映しています。 この結果は、インフラストラクチャに関する意思決定に直接反映されます：アクセラレータあたりおよびメガワットあたりの電力で同時に実行可能なエージェントタスクの数です。大規模な AI エージェントを導入する企業にとって、これらの数値が特定のインフラ投資によって実際にどれだけの生産的な作業を提供できるかを決定します。 ## NVIDIA エコシステムパートナーが Blackwell の優れた性能を活用 Baseten、DeepInfra、Together AI を含む主要な推論プロバイダは、すでに NVIDIA Blackwell 上で [DeepSeek V4 Pro](https://artificialanalysis.ai/models/deepseek-v4-pro/providers) などの最先端モデルを用いてエージェントワークロードを提供しており、今日では生産環境のエージェントアプリケーションを稼働させています。 [Together AI は、NVIDIA Blackwell 上で AI を活用したエージェント型コーディングプラットフォームである Cursor のリアルタイム推論を支えています](https://www.together.ai/blog/learn-how-cursor-partnered-with-together-ai-to-deliver-real-time-low-latency-inference-at-scale)。Cursor のエージェントはデバッグ、機能生成、リファクタリングの実行を行いながら、開発者は作業を継続できます。 DeepInfra は、ディーラー向け AI ワークフォースプラットフォーム「Pam.ai」を支援しており、同プラットフォームは NVIDIA Blackwell 上で完全に稼働するエージェントを配備し、サービス予約の受付、電話対応、およびアウトバウンド販売キャンペーンの実行を行っています。 NVIDIA とオープンソースエコシステムが推論ソフトウェアの最適化を継続するにつれ、アジェンティックワークロードにおけるパフォーマンスと効率性はさらに向上していきます。NVIDIA の Vera Rubin アーキテクチャは現在、本番環境でフル稼働しており、スケールしたアジェンティック AI への growing な需要に応える次世代インフラキャパシティをもたらしています。 *アジェンティック AI に対する AgentPerf の手法と NVIDIA のフルスタック最適化の詳細については、こちらの [技術ブログ](https://developer.nvidia.com/blog/nvidia-achieves-leading-agentic-coding-performance-on-first-agentic-ai-benchmark/) をご覧ください。*

NVIDIA Blackwell が初のエージェント型 AI インフラベンチマークで首位に立つ（4 分読）

背景や根拠まで確認しますか？

調べる

選ぶ

サイト

背景や根拠まで確認しますか？

ニュースの次に確認する

調べる

選ぶ

サイト