NVIDIA Nemotron 3 Ultra が長時間実行型エージェントの推論を高速化・効率化

単発チャットボットは、推論を行い、文脈を維持し、ツールを使用し、多くのターンにわたって効率的に動作して複雑なワークフローを完了できる長期間実行型の エージェント へと進化しています。

しかし、これらの マルチエージェント ワークフローではトークン数が急速に増加します。エージェントは計画を立て、ツールを呼び出し、サブエージェントを起動し、情報を取得した後、履歴、出力、推論 ステップをモデルに継続的に戻します。タスクが長期間実行されるにつれて、この絶え間ない通信によりコストが増大し、目標の逸脱リスクも高まります。

開発者は、オーケストレーションと複雑な計画のための フロンティア推論モデル と、大量の実行、検証、ツール呼び出しのための効率的なモデルというモデルシステムを用いてこれを解決できます。

NVIDIA は、長期間実行型エージェントがタスクをより高速に完了し、コストを削減できるよう支援するオープンモデル「NVIDIA Nemotron 3 Ultra」をリリースします。

エージェントオーケストレーションのための Nemotron 3 Ultra

Nemotron 3 Ultra は、550B パラメータの Mixture-of-Experts モデルであり、アクティブなパラメータ数は 55B です。これは、エージェントシステムにおけるフロンティア推論とオーケストレーションのために構築されたモデルです。

エージェントワークフロー内では、ほとんどの呼び出しは日常的なものですが、深い推論を必要とする重要なサブセットが存在します。Nemotron 3 Ultra はこれらの困難な呼び出しを処理するために構築されています：コーディングセッション全体にわたるアーキテクチャ決定の維持、数百の研究ソースにわたる矛盾する証拠の統合、あるいは数千の制約にわたるチップ設計の検証などです。

Nemotron 3 Ultra (550B) GLM 5.1 (744B) Kimi K2.6 (1T) Qwen3.5 (397B)

エージェント生産性PinchBench91%84%91%89%

長期計画EnterpriseOps-Gym33%40%29%30%

コーディングTerminal-Bench 2.054%64%67%53%

指示従順性IFBench82%77%74%78%

知識労働GDPVal-AA1,4481,5941,5081,192

専門業務タスクProfBench (Search)56%46%56%53%

長期コンテキストRuler @1M95%N/A (最大 256K)N/A (最大 256K)90%

*表 1. Nemotron 3 Ultra は、より小さなモデルで最先端の精度を実現します*

Nemotron 3 Ultra はまた高速です。同クラスの他のオープンモデルと比較してスループットが 5 倍向上しており、長時間実行されるエージェントがタスクをより迅速かつ効率的に完了できるようになります。

Nemotron 3 Ultra は、効率性も重視して構築されています。SWE-bench や Terminal bench 2.0 における実験では、同等のモデルと比較して、必要なトークン総数とターンあたりのトークン数を削減し、ベンチマークを完了しました。これにより、エージェントタスクのコストは最大 30% 削減されます。

Nemotron 3 Ultra を支える画期的な技術

高容量推論モデルにありがちな効率性と精度のトレードオフを緩和するため、Nemotron モデルはアーキテクチャ上の革新を導入しました:

エージェントハネス向けにポストトレーニング**Nemotron Ultra は、主要なハネス全体で一貫した精度を発揮するようにポストトレーニングされています。このモデルは、世界中でも最大規模の長期間実行・タスク解決・ツール使用データセットの一つを備え、NVIDIA の NeMo RL および Gym というオープンライブラリを使用してトレーニングされています。

Ultra は単発のチャットだけでなく、エージェント主導のオープンハネスに最適化されており、エージェントが計画を立て、ツールを呼び出し、観測結果を読み取り、サブエージェントへ委任し、出力を検証し、多くのターンにわたってエラーから回復するワークフロー内で動作するように設計されています。

ハイブリッド Mamba TransformerMamba レイヤーは、長文コンテキストの負荷に対するシーケンス効率を向上させます。一方、Transformer レイヤーは、エージェントが大きなコンテキストウィンドウから特定の事実を正確に検索する必要がある場合に、精密な想起能力を維持します。

NVFP4 精度****同じ NVFP4 チェックポイントは、NVIDIA Hopper、NVIDIA Blackwell、および Ampere GPU で実行可能です。専用の NVFP4 量子化カーネルにより、開発者はすべての NVIDIA GPU アーキテクチャで単一のチェックポイントを使用できます。また、Blackwell 上では、BF16 と比較して同等の応答性において、GPU あたりスループットが最大 5 倍向上します。

LatentMoE****LatentMoE はより効率的なエキスパートルーティングをサポートし、推論、コード生成、ツール呼び出し、ドメイン固有ロジックにわたるワークフローをモデルが処理可能にします。

Multi-token prediction****マルチトークン予測（MTP）は、単一の順伝播パスで複数の未来トークンを予測することで生成時間を短縮し、長い出力や多段階のワークフローにおけるスループットを向上させます。

Nemotron 3 Ultra が追加するマルチティーチャーオンポリシー蒸留

マルチティーチャーオンポリシー蒸留（MOPD）は、Ultra モデルがトレーニング中に独自の試行を生成しながら、複数の専門化された教師モデルから学習するトレーニング手法です。10 以上の専門化された教師モデルが訓練されており、それぞれが独自にドメイン固有のトレーニングパイプラインを持っています。各教師は自身の専門分野においてモデルを評価し、Ultra がドメイン横断的な推論能力をより効率的に向上させるのを支援します。

MOPD では、学生モデルが各ドメインでロールアウトを生成し、対応する教師モデルから密な報酬信号を受信します。効率を最大化するため、MOPD は非同期で実行され、学生のロールアウト生成、教師によるスコアリング、学生の最適化が完全にパイプライン化されています。

MOPD は反復処理でもあります。MOPD 訓練済みチェックポイントの生成後、更新された学生モデルから新しいラウンドの教師訓練が開始され、その改善点は次の MOPD ステージに統合されます。

この学生と教師との共進化により、継続的な能力向上とドメイン横断での段階的な専門性の強化が可能になります。ユーザーは、Ultra モデルを訓練したライブラリである NeMo-RL を通じて MOPD レシピ を試すことができます。

より強力なエージェント推論のための訓練データ

Nemotron オープンモデルのリリースにおいて、すべてのケースと同様に、訓練データパイプラインの多くは可能な限り自由に公開されています。企業や主権 AI 開発におけるパートナーにとって、訓練データの透明性と出所（プロヴェナンス）は、能力と同等に重要です。

ドメイン固有の前訓練データ **

10T トークンの前訓練基盤を踏まえ、Nemotron 3 Ultra は、3 つの主要な高価値ドメインギャップを対象とした 212B の新規トークンを追加します：

• 合成法務データ 4B トークンにより、プロキシ指標である LegalBench の平均値が 64.6% から 74.7% に向上

• Wiki ベースの合成データ 35B トークンにより、プロキシ指標である SimpleQA が 40.2% から 50.2% に向上

• 2025 年 9 月 30 日までの 173B の更新された GitHub トークン

ポストトレーニングデータと RL エージェント環境

今回のリリースでは、10M の新しい SFT サンプル、複数のドメインにわたる 1M の新しい RL タスク、および 15 の新規 RL エージェント環境が追加され、累積的な Nemotron オープンデータの総量は、SFT サンプルで 50M、RL タスクで 2M、RL エージェント環境で 55 に達します。

その結果、Pi、OpenHands、Hermes、OpenCode、Mini SWE Agent において SWEBench Verified のスコアは 65% から 70.4% の範囲となり、どのフレームワークを採用しても一貫したパフォーマンスを発揮します。

ドメイン向けにファインチューニング

Nemotron 3 Ultra は、NVIDIA NeMo ライブラリ を使用して LoRA、SFT、および強化学習（Reinforcement Learning: RL）によるファインチューニングが可能です。開発者は以下のレシピから始められます。

Nemotron 3 Ultra レシピ:

• SFT LoRA: NeMo Automodel (H100 Recipe, GB200 Recipe)

• Full SFT: NeMo Megatron Bridge Recipes

• Reinforcement Learning: NeMo RL GRPO recipe、GRPO LoRA recipe、MOPD recipe

• Deployment: Dynamo Recipe

実際の動作を確認する

このウォークスルーでは、build.nvidia.com で Nemotron 3 Ultra に搭載された Hermes Agent を使用して、自動研究フローを起動して実行する方法を示します。

*ビデオ 1. Hermes Agent と Nemotron 3 Ultra を用いた自律型アシスタントの構築チュートリアルウォークスルー*

NVIDIA NemoClaw および NVIDIA OpenShell でエージェントをより安全に実行する

Nemotron モデルは、主要なオープンエージェントフレームワークと統合されています。安全で常時稼働するエージェントシステムを構築するには、参照スタックを理解することが重要です。

• Hermes Agent と OpenClaw: これらは多ターンワークフローのためのオーケストレーションループ、メモリ、およびツールを提供する人気のあるエージェントハーンです。Hermes Agent は現在公式に利用可能であり、Nemotron での使用が完全にサポートされています。

• NVIDIA OpenShell: 現在は早期プレビュー版として利用可能です。OpenShell は、自律型エージェントとその生成コードが実行される安全なランタイム環境（NVIDIA Agent Toolkit の一部）です。

• NVIDIA NemoClaw: これは環境を統合するオープンソースの設計図です。単一のコマンドで NemoClaw を実行すると、OpenShell ランタイムがインストールされ、Hermes Agent などの自律型エージェントを Nemotron などのオープンソースモデルとより安全に並列して実行するための安全な環境が提供されます。

より安全で音声対応のエージェントの構築

2 つの新規 Nemotron モデルも同時にリリースされます:

Nemotron 3.5 コンテンツセーフティ

より安全なエンタープライズ AI を構築するチーム向けに、Nemotron 3.5 Content Safety は、テキスト、画像、および複合入力全体にわたって不安全、禁止、またはポリシー違反のコンテンツを分類するためのオープンで効率的な 4B のガードレールモデルです。

23 の安全カテゴリと 12 の言語をカバーし、推論時のガードレールとして使用したり、LLM（大規模言語モデル）の安全性テストおよび評価のためのジャッジとして機能させたり、あるいは付随するトレーニングデータセットを用いてより安全な動作を行うようにモデルをポストトレーニングしたりできます。カスタムポリシーサポートと推論トレイルにより、企業はドメイン固有のルールに合わせた意思決定の適応、監査分類、そしてグローバルな AI ワークフロー全体での安全性制御の展開が可能になります。詳しくは Hugging Face の投稿 をご覧ください。

Nemotron 3.5 ASR**

音声ネイティブエージェント向けに、Nemotron 3.5 ASR は、英語版の先行モデルである Nemotron 3 ASR と同じキャッシュ対応ストリーミングアーキテクチャを採用し、オーディオデルタを即座に処理します。冗長なバッファ計算を排除することで、エージェント群のための自然でリアルタイムな音声オーケストレーションにおいて 100 ミリ秒未満のレイテンシを実現します。

英語モデルはすでに強力な開発者による採用が進んでおり、2,000 万人以上の開発者に利用されている Microsoft GitHub Copilot CLI の音声入力機能を支えています。50 以上のオンデバイス ASR 構成に関する独立したベンチマークでは、リソース制約のあるハードウェア上でのリアルタイム英語ストリーミングにおいて Nemotron 3 ASR が最も有力な候補であると特定されました。現在、この同じアーキテクチャがマルチリンガル化され、単一のチェックポイントで 40 以上の言語をサポートするようになりました。

より広い採用に向けた更新されたオープンライセンス

Nemotron モデルのリリースは、オープン AI モデル配布用に特別に設計された Linux Foundation の包括的ライセンスである OpenMDW-1.1 へ移行しています。OpenMDW は、アーキテクチャ、パラメータ、ドキュメント、ソフトウェア、およびその他の関連アーティファクトを含むモデル資料の完全セットを単一のフレームワークの下でカバーするように設計されています。

これにより、開発者や企業は Nemotron モデルの使用、修正、再配布、デプロイに関する明確な利用規約を得ることができ、オープンモデルの評価と採用を遅らせる可能性のあるライセンスの不確実性が軽減されます。

今日から構築を開始する

Nemotron 3 Ultra は、重み（weights）、データ、レシピを含め完全にオープン化されており、開発者はドメイン固有のワークフローに合わせてモデルを適応させ、どこでもデプロイできます。主要な推論プラットフォーム全体で利用可能であり、NVIDIA NIM マイクロサービスとしてパッケージ化されているため、あらゆる場所で実行可能です。Pro サブスクリプションまたは API を通じて Perplexity で試すか、OpenRouter、Anaconda、または build.nvidia.com を通じてお試しください。重みは Hugging Face からダウンロードし、NVIDIA NIM を介して最適化されたインスタンスを起動するか、クックブックから始めて数分で実行を開始できます。

Nemotron 3 Ultra は、AWS JumpStart、Amazon EKS、Baseten、Bitdeer AI、CoreWeave、Crusoe、DeepInfra、Dell Enterprise Hub、DigitalOcean、Eigen AI、fal (ASR)、Fireworks AI、FriendliAI、GMI Cloud、Google Cloud、Lightning AI、Microsoft Foundry、Modal、Nebius Token Factory、Prime Intellect、Simplismart、Together AI (ASR と併用)、Vultr からも利用可能です。

エージェントハッチの入門ガイドについては、GitHub リポジトリ をご覧ください。ここでは BlackBox AI、Cline、CrewAI、Factory AI、Hermes Agent、Kilo Code、LangChain Deep Agents、OpenClaw、OpenCode、OpenHands、Pi などの利用方法も紹介されています。

詳細な技術情報については、Nemotron 3 Ultra 技術報告書 をお読みください。

*NVIDIA Nemotron* について最新情報をお知りになりたい方は、*NVIDIA のニュース に購読していただき、*LinkedIn*、*X*、*Discord*、そして *YouTube* で NVIDIA AI をフォローしてください。

*スタートアップのためのリソースについては、*Nemotron 開発者ページ* をご訪問ください。*Hugging Face* および *Blueprints*（*build.nvidia.com* 上）で、オープンな Nemotron モデルとデータセットを検索してください。

Nemotron ライブストリーム*、*チュートリアル*、および *NVIDIA フォーラム](https://forums.developer.nvidia.com/c/ai-data-science/nvidia-nemotron/669)* や*Discord* の開発者コミュニティと交流してください。