メタ、AWSグラビトンコアを数千万個契約し「牙を研ぐ」
本文の状態
日本語全文を表示中
詳細モードで約4分の本文を読めます。
同じ出来事の情報源
この情報源を基点に整理
The Register AI/ML
メタはAWSとの長期協力で、アマゾンの独自シリコン「グラビトン5」CPUコアを数千万個導入する。これにより、同社はクラウド大手の自社製半導体の最大規模の利用者の一つとなる。
Source Article
元記事を日本語で読む
本文に関係しない購読案内、埋め込み通知、サイト内プロモーションは除いています。
Metaは、ソーシャルネットワークがクラウド大手の自社製半導体の過去最大級の消費者となるような、複数年にわたる協力の一部として、Amazon Web ServicesのGraviton 5 CPUコアを数千万個配備する計画です。
この計算資源は、MetaのAgentic AI（自律型AIエージェント）の展開を支えます。GPUは生成AIモデルの学習や実行に不可欠ですが、それらのモデルを活用するために必要なソフトウェアフレームワークは依然としてCPU上で動作します。
Amazonの最新Gravitonプロセッサは、ArmのNeoverse V3コア192基と、大幅に拡大されたL3キャッシュ、そしてDDR5 8,800 MT/sまでのメモリサポートを備えています。この組み合わせにより、Graviton 4と比較して25％の性能向上が実現します。
Metaのインフラストラクチャー責任者であるSantosh Janardhanは、AWSとの協力をソーシャルネットワーク会社の計算リソース（Compute Fleet）の多様化を図る取り組みと位置づけています。
「MetaのAI野望を支えるインフラをスケールアップするにあたり、計算リソース源の多様化は戦略的に不可欠です。AWSは何年もの間、信頼できるクラウドパートナーでした」と彼は述べています。
多様化戦略の証拠は容易に見つかります。過去数ヶ月、MetaはARMベースのCPU設計企業との関係を緊密にしてきたからです。
今年2月、同社はNvidiaのスタンドアロンGrace CPUを大規模に展開する最初の企業の一つであることを明らかにしました。その後、このソーシャルネットワーキングの巨頭は、Nvidiaの新世代88コアVera CPUを展開する計画も発表しました。
さらに3月には、ArmがMetaと緊密に協力して最初のブランド付きデータセンター用半導体である「AGI CPU」を設計したことを明らかにしました。このプロセッサは300ワットのチップに136個のNeoverse V3コアを搭載しています。
Armの新半導体は、今年後半にMetaのデータセンターに搭載される予定はありません。しかし、AGI CPUとAmazonのGraviton 5チップの類似性から、Armの半導体が最終的に準備できるまではAWS上で展開し、その後これらのワークロードを自社データセンターに戻すことが可能だと考えられます。
- 一枚のチップで全てを支配する時代は終わり：TPU 8により、GoogleはAI兵器競争での勝利を目指している
- Trumpブランドのデータセンタープロジェクトが再び「偉大さ」を達成できず
- Oracle、データセンターの拡張を続けるため2.8GWの燃料電池「Bloom」を採用
- Google、データセンター内にIntelをより多く導入したい… ChipzillaからさらにSmartNICs（スマートネットワークインターフェースカード）を調達
特にAIアプリケーション向けにArmデータセンター用プロセッサが採用されることは、英国のチップ設計企業の市場シェアに大きな上昇をもたらすと見込まれています。
Counterpoint Research のアナリストは最近、2029 年までに Arm ベースの CPU が AI ASIC サーバー用 CPU マーケットの 90% を占めると予測しています。
「x86 アーキテクチャは現在、AI サーバーインフラにおいて大きな存在感を維持していますが、世代ごとの分析によると、この確固たる地位は急速に独自開発の Arm ベース設計へと移行しつつあります」と、Counterpoint のアナリストである David Wu はブログ記事で述べています。
この移行は、おそらく 2023 年に Nvidia が Grace CPU を発売したことに始まると言えます。Arm ベースの CPU は、Nvidia の GPU システムの多くで、Intel や AMD 製の x86 ベース部品に取って代わっています。
12 月、AWS は Trainium 3 AI ラックシステムにおいて Intel の CPU を自社製に置き換えていることを明らかにしました。そして今週、Google も TPU クラスタに含まれる x86 チップを独自の Arm ベース Axion チップに置き換えると発表しました。
原文を表示
Meta plans to deploy tens of millions of Amazon Web Services' Graviton 5 CPU cores as part of a multi-year collaboration that will make the social network among the largest-ever consumers of the cloud giant’s homegrown silicon.
This compute will support Meta's agentic AI deployments. While GPUs remain essential for training and running generative AI models, the software frameworks necessary to harness those models still run on CPUs.
Amazon's latest Graviton processors feature 192 of Arm's Neoverse V3 cores along with a substantially larger L3 cache and support for memory up to DDR5 8,800 MT/s. That combo deliver a 25 percent performance uplift compared to Graviton 4.
In a statement Santosh Janardhan, Meta's head of infrastructure, characterized the collaboration with AWS as an effort to diversify the social networking company’s compute fleet.
"As we scale the infrastructure behind Meta's AI ambitions, diversifying our compute sources is a strategic imperative. AWS has been a trusted cloud partner for years," he said.
Evidence of a diversification strategy is not hard to find, because over the past few months Meta has cozied up to ARM-based CPU designers.
In February, the company revealed it was among the first to deploy Nvidia's standalone Grace CPUs at scale. Since then the social networking magnate also announced plans to deploy Nvidia's all new 88-core Vera CPUs.
Then, in March, Arm revealed it worked closely with Meta to design its first branded datacenter silicon – the “AGI CPU” which packs 136 Neoverse V3 cores into a 300 watt part.
Arm's new silicon won't make its way into Meta datacenters unit later this year. However, the similarities between the AGI CPU and Amazon's Graviton 5 chips means Meta can probably deploy in AWS for now and then bring those workloads in house again when Arm's silicon is finally ready.
- Forget one chip to rule them all: With TPU 8, Google has an AI arms race to win
- Trump-branded datacenter project fails to make itself great, again
- Oracle taps Bloom for 2.8 GW of fuel cells to keep datacenter binge going
- Google wants more Intel inside ... its datacenters, taps Chipzilla for more SmartNICs
Adoption of Arm datacenter processors, particularly for AI applications, is expected to drive considerable gains for the British chip designer's market share.
Analysts at Counterpoint Research recently predicted that by 2029, Arm-based CPUs will account for 90 percent of the AI ASIC server CPU market.
"While x86 architectures currently maintain a significant presence in AI server infrastructure, our generation-by-generation analysis suggests this established stronghold is swiftly transitioning toward proprietary Arm-based designs," Counterpoint analyst David Wu said in a blog post.
This shift arguably began with the launch of Nvidia's Grace CPUs in 2023. The Arm-based CPUs have since replaced x86-based parts from Intel and AMD in many of Nvidia's GPU systems.
In December, AWS revealed it was swapping out Intel's CPUs in favor of its own in its Trainium 3 AI rack systems, and just this week, Google said it would do the same replacing the x86 chips found in its TPU clusters with its own Arm-based Axion chips. ®
今日のまとめ
AIデイリーブリーフで今日の重要ニュースをまとめ読み