NVIDIA エンタープライズ参照アーキテクチャによる AI ファクトリーの構築
NVIDIA は、エンタープライズがアジェンティック AI を大規模に運用するための基盤として、オンプレミス環境向けの「AI ファクトリー」構築を支援する企業向け参照アーキテクチャと検証済み設計を発表した。
キーポイント
AI ファクトリーの重要性とアジェンティック AI の台頭
次世代のエンタープライズ生産性は、推論・自動化・リアルタイム意思決定が可能な「アジェンティック AI システム」を支えるインフラに依存しており、競争優位性の鍵は単なる計算能力ではなく、スケーラブルで予測可能な基盤にある。
NVIDIA Enterprise Reference Architectures の役割
高パフォーマンスなハードウェア選定だけでなく、統合リスクの排除とデプロイ期間の短縮を実現するため、GPU、ネットワーク、ストレージ、ソフトウェアを包括的に定義したオンプレミス向けの参照アーキテクチャを提供する。
検証済み設計による実運用への移行
NVIDIA Enterprise AI Factory 検証済み設計により、NVIDIA ソフトウェアとエコシステムパートナーのソフトウェアをフルスタックで統合し、実験段階から産業規模でのビジネス成果を生み出す運用フェーズへ移行可能にする。
包括的なエンドツーエンドのガイダンス
GPU数からメモリ、ストレージ、ネットワーク、観測機能に至るまで、フルスタックの統合を含む詳細なガイドラインを提供します。
NVIDIA認定システムを基盤とした構築
NVIDIA-Certified Systemsとパートナーとの協力により、オンプレミスでのAIファクトリーの展開とスケーリングを可能にします。
MGX デザインからエンタープライズクラスターへの進化
NVIDIA の MGX サーバー設計が、認定サーバーノードを経て、最終的に企業向け AI ファクトリクラスタの参照アーキテクチャへと段階的に進化することを示しています。
エンタープライズグレードの信頼性確保
この進化プロセスは、単なるハードウェアの積み上げではなく、企業レベルでの運用を前提とした堅牢な AI ファクトリクラスターの実装を可能にするものです。
重要な引用
Success requires more than raw compute. It demands a scalable, predictable foundation that can orchestrate intelligent agents, manage data movement efficiently, and deliver consistent performance from pilot to production.
NVIDIA Enterprise Reference Architectures (Enterprise RAs) provide that infrastructure guidance for on-premises deployments, defining how compute, networking, storage, software, and system components integrate into a production-ready AI platform.
These RAs provide detailed, end-to-end guidance on everything from GPU count, memory, storage, networking, and observability, to full-stack integration, encompassing hardware, software, orchestration, and monitoring.
Once server nodes are NVIDIA-Certified, they form the foundational building blocks for enterprise RA clusters.
The three-stage evolution from NVIDIA MGX server design to a NVIDIA-Certified AI server node, culminating in a full NVIDIA Enterprise Reference Architecture cluster rack.
Mature AI deployments often include a blended portfolio of the mentioned AI factory configurations to optimize performance across a range of different inference, training, and visual computing workloads.
影響分析・編集コメントを表示
影響分析
この記事は、企業が AI を単なる実験段階から、信頼性が高くスケーラブルな産業レベルの運用（AI ファクトリー）へ移行するための具体的なロードマップを示すものであり、特にオンプレミス環境での大規模展開を望む企業にとって重要な指針となる。NVIDIA が提供する標準化されたアーキテクチャは、各社が独自にインフラを構築する際の参入障壁とリスクを大幅に下げ、アジェンティック AI の普及を加速させる要因となるだろう。
編集コメント
アジェンティック AI の実用化において、ハードウェア選定以上に重要となるのが「信頼性の高い基盤設計」であることを示唆する内容です。NVIDIA が提供する標準アーキテクチャは、オンプレミス環境での大規模導入におけるリスク管理とスピードアップに寄与する重要な指針と言えます。
エンタープライズ生産性の次の波は、AI ファクトリーの上に構築されています。組織が推論、自動化、大規模なリアルタイム意思決定を可能にする エージェント型 AI システム を展開するにつれ、競争優位性はそれを支えるインフラストラクチャにますます依存しています。
成功には単なる計算能力の提供だけでは不十分です。それは、インテリジェントなエージェントをオーケストレーションし、データ転送を効率的に管理し、パイロットから本番環境まで一貫したパフォーマンスを提供できる、スケーラブルで予測可能な基盤を必要とします。NVIDIA によって支えられる AI ファクトリー は、AI に産業レベルの規律をもたらすことで、インフラストラクチャを速度、信頼性、加速されたイノベーションのための戦略的エンジンへと変革しています。
インフラストラクチャは AI の 5 つのレイヤー の一つであり、AI ファクトリーの基盤を構成しています。しかし、この基盤を構築するには、高性能なハードウェアを選択するだけでは不十分です。企業には、統合リスクを排除し、展開までの時間を短縮し、大規模化してもパフォーマンスを保証する、実証済みのアーキテクチャガイダンスが必要です。NVIDIA Enterprise Reference Architectures（Enterprise RAs）は、オンプレミス環境での展開に向けたインフラストラクチャの指針を提供し、コンピューティング、ネットワーク、ストレージ、ソフトウェア、システムコンポーネントがどのように統合されて生産準備完了の AI プラットフォームとなるかを定義しています。
Enterprise RAs を活用することで、組織は実験段階からスケーラブルな AI 運用へと移行し、産業規模で知能とビジネス成果を駆動するトークンを生成することが可能になります。NVIDIA Enterprise AI Factory validated design は、NVIDIA およびエコシステムパートナーのソフトウェアからなるフルスタックを選定・検証した設計であり、企業がエージェント型 AI ワークロード向けに AI ファクトリーを実運用するための全体像を完成させます。
NVIDIA-Certified Systems に基づき、パートナーとの協力のもと構築された NVIDIA Enterprise RAs は、企業がオンプレミスで AI ファクトリーを展開・スケールするのを支えています。これらの RAs は、GPU 数、メモリ、ストレージ、ネットワーク、観測性から、フルスタック統合（ハードウェア、ソフトウェア、オーケストレーション、監視を含む）に至るまで、あらゆる事項について詳細なエンドツーエンドのガイダンスを提供します。サーバーノードが NVIDIA-Certified になると、それらは企業向け RA クラスターの基盤となるビルディングブロックを形成します。
image*図 1. NVIDIA MGX サーバー設計から NVIDIA-Certified AI サーバーノード、そして最終的に完全な NVIDIA Enterprise Reference Architecture クラスターラックに至るまでの 3 つの段階的な進化*
Enterprise RAs は AI ファクトリーの基盤を形成する
AI ファクトリー構築を開始するには、3 つの NVIDIA AI Factory 構成がコンピューティングアーキテクチャの加速に役立ちます。それらは、NVIDIA RTX PRO Servers を備えた「NVIDIA RTX PRO AI Factory」、NVIDIA HGX ベースシステム を備えた「NVIDIA HGX AI Factory」、および NVIDIA GB300 NVL72 プラットフォームに基づくラックスケールシステムを備えた「NVIDIA NVL72 AI Factory」です。それぞれは、異なる規模、インフラ要件、ワークロード、およびパフォーマンス目標で動作します。
組織は、自社の即時的なニーズに合致する構成とアーキテクチャから始め、AI への野心が拡大するにつれて拡張していくことができます。成熟した AI デプロイメントでは、さまざまな推論（inference）、トレーニング、ビジュアルコンピューティングのワークロード全体でパフォーマンスを最適化するために、前述の AI ファクトリ構成のブレンドポートフォリオが含まれることが一般的です。
NVIDIA RTX PRO AI Factory: ユニバーサルアクセラレーター
image*図 2. NVIDIA RTX PRO™ 6000 Blackwell Server Edition GPU を搭載した 2-8-5-200 ノード参照構成*
NVIDIA RTX PRO AI Factory は、2-8-5-200（CPU-GPU-NIC – E/W バンド幅）の参照構成に基づき、エンタープライズ AI 向けのモジュール化され電力効率の高い基盤を提供します。NVIDIA RTX PRO Blackwell Server Edition GPU を中心に構築されたこのアーキテクチャは、小規模から中規模のモデル推論、ファインチューニング、生成 AI、ビジュアルコンピューティング、産業用 AI ワークロード向けに最適化されています。これにより、企業は標準的なエンタープライズデータセンターの敷地内で、マルチモーダル・エージェントシステム、シミュレーション、分析、レンダリングをサポートし、AI をコアビジネスワークフローに近づけることが可能になります。
各 NVIDIA-Certified RTX PRO サーバーは最大 8 基の GPU を統合し、柔軟な空冷サーバー設計の中で高性能な AI コンピューティングを提供します。クラスター展開では、数十から数百台の GPU にスケール可能で、128 基および 256 基の GPU クラスター環境をサポートする利用可能な例があります。高速な NVIDIA Spectrum-X Ethernet ネットワークと NVIDIA BlueField-3 アクセラレーションにより、効率的な東西通信（イースト・ウエスト）と安全な南北データフロー（ノース・サウス）が実現されます。これにより、大規模なエンタープライズ AI 推論、デジタルツイン、ビジュアルコンピューティング、科学計算、データ分析の基盤が構築されます。
NVIDIA HGX AI Factory: エンタープライズ AI 向け画期的なパフォーマンス
image*図 3. NVIDIA HGX B300 ノード設計を採用した 2-8-9-800 リファレンス構成*
NVIDIA HGX AI Factory の構成は、大規模企業がスケールして AI モデルのトレーニング、ファインチューニング、展開を行う際に標準化の基盤として採用するものです。これは、トレーニングと推論ワークロード全体にわたって継続的な運用とバランスの取れたパフォーマンスを実現するように設計されています。ある企業では、HGX AI Factory の設計に基づいて一部のクラスターを展開し、他のクラスターには RTX PRO AI Factory の設計を採用します。これは NVIDIA IT が社内の AI ファクトリを運営するために内部で使用している構成 です。
2-8-9-800 の参照構成に基づき、NVIDIA HGX AI Factory は、大規模言語モデルのトレーニングやファインチューニングを行う組織、あるいは高スループットの AI 推論を実行する組織向けに設計されています。これは、AI パフォーマンスと運用の簡素さを必要とするマルチユーザー企業環境において、計算能力、メモリ、ネットワーク全体で効率を維持しながら予測可能なスケールを実現します。
中核となる NVIDIA HGX B300 プラットフォームは、第 5 世代の NVIDIA NVLink および NVSwitch テクノロジーを介して接続された 8 枚の NVIDIA Blackwell Ultra GPU を統合し、各ノード内に密結合で高帯域幅の計算ドメインを形成しています。GPU あたり最大 270 GB の HBM3 メモリと、ノードあたり最大 2.1 TB の集約 GPU メモリを備えるこのプラットフォームは、大規模モデルのトレーニング、ファインチューニング、および中〜大規模パラメータを持つ AI 推論ワークロードに最適化されています。
NVIDIA ConnectX-8 SuperNIC を備えた高速な NVIDIA Spectrum-X Ethernet ネットワークは、クラスター間の東西通信において GPU あたり最大 800 Gb/s を提供し、分散トレーニングや大規模推論中のボトルネックを最小限に抑えます。
NVIDIA NVL72 AI ファクトリー：エクサスケール AI の原動力
image*図 4. NVIDIA GB300 NVL72 ラックスケールソリューション向けの 2-4-5-800 トレイ参照構成*
NVIDIA NVL72 AI Factory は、最も先進的なラックスケールプラットフォームの一つです。兆規模のパラメータを持つモデルや AI 推論システムに対応する時代のために構築され、NVIDIA GB300 NVL72 システムを採用することで、ラックあたりの最高パフォーマンスを実現しつつ、計算・メモリ・ネットワークリソース全体にわたる効率を最大化します。
予測可能性や価値実現までの時間を損なうことなく、大規模な拡張性を求める組織向けに設計されています。このアーキテクチャは、大規模基盤モデルのトレーニング、ファインチューニング、高スループットマルチテナント推論、そして複雑な Agentic AI パイプラインを含む、集約的なエンタープライズ AI ワークロードに対して最適化されています。
NVL72 AI Factory は、36 個の Grace CPU と 72 個の Blackwell Ultra GPU を統合し、第 5 世代 NVLink で相互接続された、液体冷却対応のラックスケールシステムです。すべての GPU が統一された高帯域幅の NVLink ファブリックを介して互いに通信するため、このラックは単一の整合性のある計算ドメインとして機能します。この密結合設計により、通信レイテンシが最小化され、従来のクラスターアーキテクチャで一般的に見られるボトルネックが排除されます。統合された NVIDIA ConnectX-8 SuperNIC は AI トレーニングおよび推論のための高スループット東西方向トラフィックを確保し、NVIDIA BlueField DPUs は南北方向のデータフローを効率化します。これらにより、ラック全体が協調したデータセンタースケールのスーパーコンピュータとして動作することが可能になります。
NVIDIA Enterprise Reference Architectures (RAs) に基づく AI ファクトリ構成はアーキテクチャの基盤を提供しますが、信頼性を確立するのはシステムパートナーによる検証済みの実装です。当社のシステムパートナーはこれらの RAs を活用してソリューションを構築し、それらは NVIDIA Design Review Board (DRB) によって技術レビューの対象となります。このレビューでは、設計が NVIDIA が定義した基準や標準に照らして評価されます。
一部のパートナーはスタックの特定の層を検証する一方、他のパートナーはハードウェア、ソフトウェア、ネットワーク全体にわたる完全なエンドツーエンドシステムを検証します。これらの要件を満たす設計は NVIDIA 推奨ソリューションとして認定され、認定されたパートナーとその提供製品の一覧は NVIDIA Enterprise RA ドキュメント ページで確認できます。
グローバルなシステムパートナー は、小規模なパイロット展開から大規模な AI ファクトリクラスターに至るまでの様々なスケールポイントでテストされた Enterprise RA ベースのソリューションを提供しています。このエコシステムアプローチにより、企業は透明性、選択肢、そして信頼性を得ることができます。
迅速な導入と総所有コスト (TCO) の削減
Enterprise RAs はシステム工学を超え、迅速な展開と長期的な効率化のための具体的なレシピとして機能します。これらは組織が以下を行うことを支援するように設計されています:
- インフラに関する意思決定の迷いを解消する。
- 再設計サイクルと運用オーバーヘッドを削減する。
- 導入期間を数ヶ月から数週間に圧縮する。
- 利用率の最適化と長期的な TCO の削減。
- Enterprise Support を活用して稼働時間の最大化とパフォーマンスの最適化を実現します。
これらは単なる技術的なガイダンスを超え、企業が明確さと自信を持って概念実証から本番環境への移行を可能にします。NVIDIA Enterprise AI Factory 検証済み設計からのソフトウェアアーキテクチャおよび推奨事項と組み合わせることで、組織はオンプレミス型 AI ファクトリの展開に必要なフルスタックのサポートとガイダンスを得られ、価値提供までの時間を短縮し、AI を活用したビジネス革新を推進できます。
すぐに始めたいですか？
今日、システムメーカーまたはNVIDIA Enterprise RA ベースのソリューション設計を提供する専門パートナーにお問い合わせください。
- NVIDIA-Certified Systems に関するホワイトペーパーをお読みください。
- NVIDIA Enterprise RA のホワイトペーパーをお読みください。
- NVIDIA Enterprise AI Factory 検証済み設計ガイドをお読みください。
- NVIDIA-Certified Systems および NVIDIA Enterprise RA についてさらに詳しく学ぶ。
原文を表示
The next wave of enterprise productivity is being built on AI factories. As organizations deploy agentic AI systems capable of reasoning, automation, and real-time decision-making at scale, competitive advantage increasingly depends on the infrastructure that supports them.
Success requires more than raw compute. It demands a scalable, predictable foundation that can orchestrate intelligent agents, manage data movement efficiently, and deliver consistent performance from pilot to production. AI factories powered by NVIDIA bring industrial-grade discipline to AI, changing infrastructure into a strategic engine for speed, reliability, and accelerated innovation.
Infrastructure is one of the five layers of AI, and represents the foundation for AI factories. Building that foundation, however, requires more than selecting high-performance hardware. Enterprises need proven architectural guidance that removes integration risk, reduces time to deployment, and ensures performance at scale. NVIDIA Enterprise Reference Architectures (Enterprise RAs) provide that infrastructure guidance for on-premises deployments, defining how compute, networking, storage, software, and system components integrate into a production-ready AI platform.
With Enterprise RAs, organizations can move from experimentation to scalable AI operations, producing tokens that drive intelligence and business outcomes at an industrial scale. The NVIDIA Enterprise AI Factory validated design completes the picture by curating a full stack of NVIDIA software and ecosystem partner software validated by NVIDIA, for enterprises to operationalize the AI factory for their agentic AI workloads.
Based on NVIDIA-Certified Systems and built in collaboration with partners, NVIDIA Enterprise RAs power enterprises to deploy and scale on-premises AI factories. These RAs provide detailed, end-to-end guidance on everything from GPU count, memory, storage, networking, and observability, to full-stack integration, encompassing hardware, software, orchestration, and monitoring. Once server nodes are NVIDIA-Certified, they form the foundational building blocks for enterprise RA clusters.
Enterprise RAs form the foundation of AI factories
To get started with building AI factories, three NVIDIA AI Factory configurations can accelerate computing architectures: the NVIDIA RTX PRO AI Factory (with NVIDIA RTX PRO Servers), NVIDIA HGX AI Factory (with NVIDIA HGX-based systems), and NVIDIA NVL72 AI Factory (with rack-scale systems based on NVIDIA GB300 NVL72 platform). Each operates at different scales, infrastructure requirements, workloads, and performance objectives.
Organizations can begin with the configuration and architecture that aligns with their immediate needs, and scale as AI ambitions expand. Mature AI deployments often include a blended portfolio of the mentioned AI factory configurations to optimize performance across a range of different inference, training, and visual computing workloads.
NVIDIA RTX PRO AI Factory: The universal accelerator
The NVIDIA RTX PRO AI Factory, based on 2-8-5-200 (CPU-GPU-NIC – E/W Bandwidth) reference configuration, delivers a modular, power-efficient foundation for enterprise AI. Built around NVIDIA RTX PRO Blackwell Server Edition GPUs, this architecture is optimized for small to medium model inference, fine-tuning, generative AI, visual computing, and industrial AI workloads. It enables enterprises to bring AI closer to core business workflows—supporting multimodal agentic systems, simulation, analytics, and rendering within a standard enterprise data center footprint.
Each NVIDIA-Certified RTX PRO Server integrates up to eight GPUs, delivering high-performance AI compute within a flexible, air-cooled server design. Cluster deployments can scale from tens to hundreds of GPUs, with available examples supporting 128- and 256-GPU cluster environments. High-speed NVIDIA Spectrum-X Ethernet networking and NVIDIA BlueField-3 acceleration enable efficient east-west communication and secure north-south data flow. This creates a foundation for enterprise AI inference, digital twins, visual computing, scientific computing, and data analytics at scale.
NVIDIA HGX AI Factory: Breakthrough performance for enterprise AI
The NVIDIA HGX AI Factory configuration is the foundation most large enterprises standardize on when training, fine-tuning, and deploying AI models at scale. It’s engineered for continuous operation and balanced performance across training and inference workloads. An enterprise can deploy some clusters based on the HGX AI Factory design and others on the RTX PRO AI Factory design, which is what NVIDIA IT uses internally to run its own AI factory.
Based on the 2-8-9-800 reference configuration, the NVIDIA HGX AI Factory is designed for organizations training and fine-tuning large language models or running high-throughput AI inference. It enables predictable scaling while maintaining efficiency across compute, memory, and networking for multi-user enterprise environments that require AI performance and operational simplicity.
At its core, the NVIDIA HGX B300 platform integrates eight NVIDIA Blackwell Ultra GPUs connected through fifth-generation NVIDIA NVLink and NVSwitch technology, forming a tightly coupled, high-bandwidth compute domain within each node. With up to 270 GB of HBM3 memory per GPU and up to 2.1 TB of aggregate GPU memory per node, this platform is optimized for large-model training, fine-tuning, and medium- to large-parameter AI inference workloads.
High-speed NVIDIA Spectrum-X Ethernet networking with NVIDIA ConnectX-8 SuperNICs provides up to 800 Gb/s per GPU for east-west communication across clusters, minimizing bottlenecks during distributed training and large-scale inference.
NVIDIA NVL72 AI Factory: Powering exascale AI
The NVIDIA NVL72 AI Factory stands as one of the most advanced rack-scale platforms. Built for the era of trillion-parameter models and AI reasoning systems, it features the NVIDIA GB300 NVL72 system to deliver top performance per rack while maximizing efficiency across compute, memory, and networking resources.
It’s engineered for organizations that demand massive scalability without compromising predictability or time-to-value. The architecture is optimized for intensive enterprise AI workloads—including large-scale foundation model training, fine-tuning, high-throughput multi-tenant inference, and complex Agentic AI pipelines.
The NVL72 AI Factory is an integrated, liquid-cooled rack-scale system combining 36 Grace CPUs and 72 Blackwell Ultra GPUs, interconnected through fifth-generation NVLink. Every GPU communicates with every other GPU through a unified, high-bandwidth NVLink fabric, enabling the rack to function as a single, coherent compute domain. This tightly-coupled design minimizes communication latency and eliminates bottlenecks common in traditional cluster architectures. Integrated NVIDIA ConnectX-8 SuperNICs ensure high-throughput east-west traffic for AI training and inference, while NVIDIA BlueField DPUs streamline north-south data flow—together allowing the entire rack to operate as a cohesive, data-center-scale supercomputer.
AI factory configurations based on NVIDIA Enterprise Reference Architectures (RAs) provide the architectural foundation, but validated implementations from our system partners are what establish confidence. Our system partners use these RAs to build solutions that undergo a technical review by the NVIDIA Design Review Board (DRB), where their designs are assessed against NVIDIA-defined criteria and standards.
Some partners validate specific layers of the stack, while others validate full end-to-end systems across hardware, software, and networking. Designs that meet these requirements are recognized as NVIDIA-endorsed solutions, and a current list of endorsed partners and their offerings is available on the NVIDIA Enterprise RA documentation page.
Global system partners are delivering Enterprise RA-based solutions tested across a range of scale points—from small pilot deployments to large AI factory clusters. This ecosystem approach gives enterprises transparency, choice, and confidence.
Faster deployment and lower TCOs
Enterprise RAs extend beyond systems engineering, as actionable recipes for accelerated deployment and long-term efficiency. They are designed to help organizations:
- Cut through infrastructure indecision.
- Reduce redesign cycles and operational overhead.
- Compress deployment timelines from months to weeks.
- Optimize utilization and long-term TCO.
- Maximize uptime and optimize performance with Enterprise Support.
As more than technical guidance, they enable enterprises to move from proof-of-concept to production with clarity and confidence. When combined with the software architecture and recommendations from the NVIDIA Enterprise AI Factory validated design, organizations have the full-stack support and guidance to deploy an on-premises AI factory, deliver faster time-to-value, and drive business innovation with AI.
Ready to get started?
Ask your system manufacturer or specialization partner for an NVIDIA Enterprise RA–based solution design today.
- Read the NVIDIA-Certified Systems white paper.
- Read the NVIDIA Enterprise RA white paper.
- Read the NVIDIA Enterprise AI Factory validated design guide.
- Learn more about NVIDIA-Certified Systems and NVIDIA Enterprise RAs.
関連記事
今日のまとめ
AI日報で今日の重要ニュースをまとめ読み