アステラ・ラボズがニビディアの NVSwitch に代わる大規模 AI システム向けスイッチを発表

Astera Labs は火曜日、ラック規模の AI システム構築における Nvidia の NVSwitch に対する代替案を発表し、ほぼあらゆるアクセラレータと動作すると主張しました。コードネーム「Scorpio X」のこの AI ファブリックスイッチは、5.12 TB/s の双方向帯域幅を持つ単一の ASIC に PCIe 6.0（Peripheral Component Interconnect Express）接続の 320 ラーンを凝縮しています。歴史的に、PCIe スイッチはスケールアウトコンピューティングファブリックを含む様々な用途で利用されてきました。CPU だけでは、必要なすべての GPU、NIC（ネットワークインターフェースカード）、ストレージに対して十分な数または速度のレーンを提供できないことが多いためです。そのため、すべてを CPU に直接接続するのではなく、PCIe スイッチ（多くの場合 NIC に組み込まれている）を使用してそれらを相互に接続していました。Astera は、大規模なスイッチを使用することで、アクセラレータの再設計を必要とせずに数十個以上の GPU をあたかも単一の大きなもののように動作させるスケールアップファブリックにおいて、PCIe が NVLink などのインターコネクトに対する実用的な代替手段になり得ると主張しています。しかし、Astera は単により大きな PCIe スイッチを作っただけではありません。Scorpio は、集団通信を加速する機能など、Nvidia の NVSwitch と同じ多くのネットワーク内計算機能を備えています。これらの通信は、生成 AI 推論において特に重要です。混合専門家（MoE: Mixture of Experts）アーキテクチャが普及したことで、大規模言語モデルはネットワークの観点から非常に「話し好き」になっています。MoE モデルは、エキスパートと呼ばれる複数のサブモデルで構成されています。生成される各トークンに対して、異なる選択されたエキスパート（これらは異なる GPU で実行されている可能性もあります）が使用されます。集団通信をスイッチに移動させることで、GPU はネットワークの追いつきを待つ時間を減らし、トークンを生成する時間を増やすことができます。Astera はさらに、MoE 推論用に最適化されたマルチキャスト操作を開発しており、これを「Hypercast」と呼んでいます。「標準的なマルチキャストの一つの制限は、実際にサポートできるグループの数と、混合専門家モデルのためにこれらのグループをその場で動的に変更する必要があるという性質です」と、Astera の製品管理担当副社長である Ahmad Danesh 氏は El Reg に語りました。 スケールアップエコシステムにおける Scorpio の位置づけ チップ間インターコネクトとして PCIe を使用することには明確な利点がありますが、Scorpio は Nvidia の NVSwitch チップの完全な代替品というわけではありません。1 月に CES で発表された NVSwitch 6 は、14.4 TB/s というほぼ 3 倍の帯域幅を提供します。しかし、Astera が NVSwitch と直接競合する必要はありません。実際、Astera は昨春、Nvidia の高速インターコネクトをより広いエコシステムに開放しようとする試みである「NVLink Fusion」へのサポート拡張計画を発表しました。むしろ、Scorpio はベンダー非依存の代替手段として位置づけられています。「NVLink Fusion」や新興の「UALink プロトコル」といった技術は注目を集めていますが、これらのチップはそれらを中心に設計する必要があります。PCIe は、データがアクセラレータに入出力されるためにすでに使用されているため、ほぼあらゆる機器と動作します。例えば、32 枚以上の Nvidia RTX Pro 6000 Server カードを結合したい場合、それらの GPU は NVLink を全くサポートしていないため、PCIe スイッチが必要になります。 また、PCIe は、Nvidia と Groq、AWS と Cerebras、Intel と SambaNova で見られたような、非集約推論アーキテクチャにおけるチップの組み合わせを容易にします。これらのアーキテクチャでは、計算集約型のプリフィル操作には一つのアクセラレータを、帯域幅集約型のデコード操作には別のアクセラレータを使用します。これが機能するためには、チップ同士が相互に接続されている必要があります。多くの AI チップビルダーはこれをイーサネット上で行っていますが、PCIe の方がより直接的です。 Scorpio X シリーズのチップとともに、Astera は 32 ラーンから 320 ラーンの PCIe 接続を備えたモデルを含む Scorpio P シリーズスイッチも拡大しています。これらのすべてのスイッチは、ネットワークファブリック全体の問題を検出・解決するのを支援するために設計されたハードウェア監視プラットフォームである「COSMOS」管理スイートと連携します。 Astera の刷新された Scorpio スイッチは現在サンプル供給中で、量産は 2026 年後半に本格化すると見込まれています。®

アステラ・ラボズがニビディアの NVSwitch に代わる大規模 AI システム向けスイッチを発表

背景や根拠まで確認しますか？

このニュースを、実務の判断につなげる

調べる

選ぶ

サイト