NVIDIA Groq 3 LPX が Vera Rubin で超高速対話を実現

記事の3ポイント

1. 1

   Groq 3 LPX の新機能発表

   NVIDIA は Vera Rubin プラットフォーム向けのインタラクティブ AI 推論アクセラレータ「Groq 3 LPX」を発表し、同社によるとこれは最も多様なマシンである Vera Rubin NVL72 と組み合わせて使用される。

2. 2

   Artificial Analysis によるベンチマーク結果

   第三者機関の Artificial Analysis が Gemma 4 31B モデルで実施した 100K コンテキストベンチにおいて、Groq 3 LPX は世界最高水準となる 3,431 トークン/秒の出力速度を記録した。

3. 3

   マルチエージェントシステムへの対応

   この技術により、Vera Rubin プラットフォームは 2T パラメータを超える大規模モデルを駆使するマルチエージェントシステムを高いインタラクティブ性と長いコンテキストでサポートできるようになる。