NVIDIA Nemotron 3 Ultra が Amazon SageMaker JumpStart で利用可能に

本日、Amazon SageMaker JumpStart で NVIDIA Nemotron 3 Ultra の day-zero（リリース初日）利用が可能になったことを発表できることを嬉しく思います。

この発売により、ワンクリックデプロイメント体験で Nemotron 3 Ultra モデルをデプロイできるようになりました。Nemotron 3 Ultra は、長期実行型自律エージェントにおける最先端の推論とオーケストレーションのために構築されたオープンモデルであり、エージェントワークロードにおいて推論速度が 5 倍向上し、コストは最大 30% 削減されます。Nemotron 3 Ultra は NVFP4 形式に最適化されており、これによりホスティングが大幅に高速化され、コスト効率も向上します。

NVIDIA Nemotron 3 Ultra の概要

NVIDIA Nemotron 3 Ultra は、総パラメータ数 5,500 億（550B）、アクティブパラメータ数 550 億（55B）を備えたオープンな大規模言語モデルです。同等品質の密結合モデルと比較して計算コストを大幅に抑えながら最先端の知能を実現するために設計された、ハイブリッド Transformer-Mamba Mixture-of-Experts (MoE) アーキテクチャを採用しています。

仕様

詳細

アーキテクチャ

ハイブリッド Transformer-Mamba MoE

パラメータ数

総計 550B / アクティブ 55B

コンテキスト長

最大 1M トークン

入力/出力

テキスト入力、テキスト出力

精度

NVFP4

推論速度

長期実行型エージェントワークフローで 5 倍高速化

コスト

複雑なエージェントタスクで最大 30% コスト削減

##

エージェント型 AI に専用モデルが必要な理由

エージェントは単に一度回答するだけではありません。計画を立て、ツールを呼び出し、下位エージェントに作業を委任し、結果を確認し、何百ものターンにわたって継続します。各ステップでトークンと計算リソースが追加されるため、重要となる指標は、有用な精度でのタスク完了率、完了までの時間、およびタスクあたりのコストです。

Nemotron 3 Ultra はこれに直接対応しています。その MoE（Mixture of Experts）アーキテクチャでは、1 回の順伝播で 550B のパラメータのうち 55B だけが活性化されるため、百万トークンという長いコンテキスト長においてもスループットを高く維持できます。これにより、エージェントは数百ターンにわたる計画立案、ツール呼び出し、自己修正のループを継続しながら、一貫性を保ちつつコストを管理することが可能になります。

エンタープライズユースケース

Nemotron 3 Ultra は、持続的な多段階推論を必要とするワークロードで特に優れた性能を発揮します：

• エージェントオーケストレーター – 複数の下位エージェントの調整、長いツール呼び出しチェーンにわたる状態管理
• コーディングエージェント – 大規模なリポジトリ全体でのコード生成、テスト、デバッグ、反復処理
• ディープリサーチ – 複数ソースからの情報の統合、拡張されたコンテキストにおける一貫した推論の維持
• 複雑なエンタープライズワークフロー – 意思決定分岐とエラー回復を備えた多段階ビジネスプロセスの自動化

SageMaker JumpStart の始め方

Amazon SageMaker JumpStart を介して Nemotron 3 Ultra をデプロイできます。ワンクリックデプロイにより、インフラストラクチャの管理やサービングフレームワークの設定が不要になります。

前提条件

開始する前に、必ず以下を準備してください：

• AWS アカウント
• SageMaker JumpStart に適切にスコープされた権限
• GPU インスタンス（例：ml.p5en.48xlarge、ml.p5.48xlarge、または ml.g7e.48xlarge）に対する十分なサービスクォータ

重要: このモデルのデプロイにより、稼働中に課金が発生する SageMaker エンドポイントが作成されます。ml.p5en.48xlarge などの GPU インスタンスは、時間あたり数ドルかかる場合があります。詳細については Amazon SageMaker AI の価格設定をご覧ください。完了後はエンドポイントを削除して、継続的な課金を避けてください。

SageMaker Studio を使用してデプロイする

• Amazon SageMaker Studio を開く
• 左側のナビゲーションペインで「SageMaker JumpStart」を選択する
• Nemotron 3 Ultra と検索する
• モデルカードを選択する
• 「Deploy（デプロイ）」を選択する
• インスタンスタイプを選択する（サポートされているインスタンスタイプは ml.p5en.48xlarge、ml.p5.48xlarge、または ml.g7e.48xlarge）
• デプロイ設定を確認する（ほとんどのユースケースではデフォルト値で十分です）
• エンドポイントを作成するために「Deploy」を選択する
• 推論に進む前に、エンドポイントステータスが InService になるまで待つ

SageMaker Python SDK を使用してデプロイ

import sagemaker

from sagemaker.jumpstart.model import JumpStartModel

model = JumpStartModel(

model_id="huggingface-reasoning-nvidia-nemotron-3-ultra-550b-a55b-nvfp4", # SageMaker JumpStart モデルカードで確認してください

role=sagemaker.get_execution_role(), # あなたの SageMaker 実行ロール ARN

)

predictor = model.deploy(accept_eula=True)

推論を実行

payload = {

"messages": [{

"role": "user",

"content": "このタスクをサブタスクに分割し、必要なツールを特定して、それらを順次実行してください。"

}],

"max_tokens": 20480,

"temperature": 0.6,

"top_p": 0.95,

}

response = predictor.predict(payload)

print(response["choices"][0]["message"]["content"])

クリーンアップ

不要な課金を避けるために、作業が完了したら SageMaker エンドポイントを削除してください:predictor.delete_endpoint()

結論

NVIDIA Nemotron 3 Ultra は、Amazon SageMaker JumpStart に最先端クラスの推論能力をもたらします。エージェントワークロードにおいて、推論速度は 5 倍高速化され、コストは最大 30% 削減されます。そのハイブリッド Transformer-Mamba MoE アーキテクチャと百万トークンのコンテキストウィンドウは、生産環境のエージェントが要求する持続的かつ多段階の推論のために特別に設計されています。

エージェントオーケストレーター、コーディングエージェント、深層研究システム、あるいは複雑な企業自動化を構築している場合でも、Nemotron 3 Ultra は今日から SageMaker JumpStart ですぐにデプロイ可能です。

Amazon SageMaker JumpStart で「Nemotron 3 Ultra」を検索して、今すぐ始めましょう。

著者について

imageDan Ferguson氏は、米国ニューヨークを拠点とするAWSのソリューションアーキテクトです。機械学習（ML）サービスの専門家として、顧客がMLワークフローを効率的かつ効果的、そして持続可能に統合する旅をサポートしています。

imageMalav Shastri氏は、AWSのソフトウェア開発エンジニアであり、Amazon SageMaker JumpStartおよびAmazon Bedrockチームで活動しています。彼の役割は、顧客が最先端のオープンソースおよび独自基盤モデルを活用できるように支援することに焦点を当てています。Malav氏はコンピュータサイエンスの修士号を取得しています。

image Vivek Gangasani 氏は、SageMaker Inference のソリューションアーキテクチャにおける世界リーダーです。彼は SageMaker Inference のソリューションアーキテクチャ、技術的市場投入（GTM）およびアウトバウンド製品戦略を統括しています。また、企業やスタートアップに対し、SageMaker と GPU を活用した生成 AI モデルのデプロイと最適化、ならびに AI ワークフローの構築を支援しています。現在、アジェンティックワークフローや RAG（検索拡張生成）などのユースケースにおける推論パフォーマンスの最適化に関する戦略とコンテンツの開発に注力しています。趣味はハイキング、映画鑑賞、そして様々な料理を試すことです。