Graviton5 の改良設計が速度とエネルギー効率を向上 - ムーアの法則を超える

AWS Graviton プロセッサは世代ごとに着実に進化を遂げ、各イテレーションで計算性能、価格対性能、エネルギー効率、メモリ容量の向上を実現してきました。本日、Amazon は一般用途ワークロード向けに、Elastic Compute Cloud (EC2) の新しい M9g および M9gd インスタンスの一般提供を開始したと発表しました。これらは、Amazon の CPU である最新世代の Graviton5 で動作する最初の Amazon プロダクトです。カスタムシリコンにおける五代間の開発と、8 年間にわたる継続的な投資を経て、Graviton は現在、ウェブアプリケーション、マイクロサービス、分析、データベース、機械学習推論、電子設計自動化、ゲーム、動画エンコーディング、そしてエージェント AI を含む多様なワークロードに適した 350 種類以上のインスタンスタイプを駆動しています。Graviton5 は Graviton4 に比べてコア数を倍増させ、96 から 192 に増加し、DDR5-8800 メモリと最新の PCIe gen6 インターコネクトをサポートします。私たちは主要な DRAM メーカーと緊密に協力して DDR5-8800 の性能レベルを実現しており、AWS Graviton インスタンスはクラウド上のプロセッサインスタンスの中で最も高速なメモリを提供しています。Graviton5 では、Amazon はさらに 3 ナノメートルプロセスを採用し、より高い回路密度とオンチップ通信の高速化を可能にしました。Graviton5 は Graviton4 よりも多くのコアを搭載しているだけでなく、各コアのパフォーマンスも 25% 向上しています。私たちはこれまで、マイクロベンチマークが実際の大きなワークロードとは大きく異なることについて議論してきましたが、私たちが設計するのは顧客の実際のワークロードです。小さなループではなく、データベースのような実際のアプリケーションのすべてのコードと複雑さを対象としています。 コードを高速に実行するために、現代のプロセッサはプログラム内の制御フローから生じる分岐を予測し、予測されたパスを先行的に実行します。Graviton5 に採用されている Neoverse V3 コア（Arm と Amazon の Annapurna Labs によって共同設計）は、CPU の分岐予測能力を大幅に向上させ、その結果、データベースのような実際のアプリケーションの実行性能が最大 30% 向上します。CPU の DRAM は約 100 ナノ秒の距離にある可能性があります。これは一見短く思えますが、3.3 ギガヘルツで動作する CPU において、1 回のメモリアクセスには 330 サイクルを要します。CPU はキャッシュを使用してデータを CPU に近づけ、リクエストがこれらのキャッシュのいずれかで満たされる場合、CPU はフル DRAM のレイテンシを待つ必要がありません。Graviton5 は、64 キロバイトの第 1 レベルキャッシュ、2 メガバイトの第 2 レベルキャッシュ、そして 192 メガバイトの第 3 レベルキャッシュを搭載しており、これは前世代の Graviton の 5 倍以上です。 Graviton3 は、コア、DRAM コントローラ、PCIe コントローラの間に 7 つのダイを使用するチップレットアーキテクチャを採用した最初の Graviton CPU でした。Graviton4 も同様のアーキテクチャを踏襲し、いくつかの改良を加えました。しかし、Graviton5 では大幅に変更を加えています：Graviton5 の 192 コアは 4 つのチップレットに分割され、各チップレットには DRAM コントローラ、PCIe コントローラ、および 48 コアが含まれています。また、チップレット間の帯域幅が最大 420 ギガバイト/秒に達するカスタムダイ間接続により、メッシュ内のコア間のレイテンシを最小化しています。これにより、個別の I/O ダイや個別の DRAM コントローラダイは不要となりました。この構成により、チップごとに 2 つまたは 4 つの非一様メモリアクセス (NUMA) リージョンを設定し、CPU で実行されている仮想マシン (VM) のサイズに合わせて L3 キャッシュのサイズを分割することが可能になり、48 コア以下の VM に対するメモリアクセスレイテンシを低減できます。 これらの強化により、Graviton5 は Graviton4 ベースのインスタンスと比較して最大 25% の計算性能向上を実現し、ウェブアプリケーションでは最大 35%、機械学習推論では最大 35%、データベースでは最大 30% の高速化を提供します。Graviton5 で動作する M9g および M9gd インスタンスは、Nitro Isolation Engine（Nitro イソレーションエンジン）の導入により、セキュリティの基準をさらに引き上げています。Nitro Isolation Engine は、インスタンスの分離を強制し、形式検証 (formal verification) を活用して数学的な精度で分離を保証する Nitro System の強化機能です。Nitro Isolation Engine は、VM 間の分離を強制するために特別に設計されたコンポーネントであり、最小限の API セットを通じて VM メモリ、CPU レジスタ状態、および I/O デバイスへのすべてのアクセスを仲介する責任を負っています。 Nitro Isolation Engine は形式検証という技術を活用しており、これはハードウェアやソフトウェアが特定のテストケースだけでなく、意図した通りに動作することを数学的に証明するための手法です。この集中的な検証により、Nitro は初めて形式検証されたクラウドハイパーバイザとなり、数学的に証明されたクラウドセキュリティの新たな基準を先駆けて確立しました。Nitro Isolation Engine について詳しく知りたい場合は、Amazon Science のブログ記事をご覧ください。

Graviton5 の改良設計が速度とエネルギー効率を向上 - ムーアの法則を超える

背景や根拠まで確認しますか？

調べる

選ぶ

サイト