OpenAI と Broadcom が大規模 LLM 推論向けチップ「Jalapeño」を発表
OpenAI と Broadcom は、大規模言語モデル（LLM）の推論に特化した独自設計 ASIC「Jalapeño」を発表し、省電力性能とデータセンターでのスケーラビリティ向上を謳っている。
キーポイント
LLM 推論専用 ASIC の開発発表
OpenAI と Broadcom が共同で、ChatGPT や Codex などのモデル推論に最適化された専用チップ「Jalapeño」を開発したことを発表した。
設計プロセスと期間
OpenAI の研究者との詳細な対話や将来ロードマップに基づき、9 か月かけてゼロから設計・生産された ASIC である。
性能と省電力性の期待
初期テストでは既存の最先端デバイスと比較してワットあたりのパフォーマンスが大幅に向上していることが示唆されている。
今後のロードマップ
これは長期的プロジェクトの第一世代であり、詳細な技術報告書は数ヶ月以内に公開される予定である。
影響分析・編集コメントを表示
影響分析
このニュースは、AI ハードウェア市場が汎用 GPU からドメイン特化型 ASIC（ASIC）への移行期にあることを示唆しており、OpenAI が自社のモデル最適化のためにサプライチェーンを深くコントロールする戦略を示している。今後、大規模データセンターにおける推論コストの劇的な低下とエネルギー効率の向上が期待され、競合他社にも同様の専用チップ開発を迫る可能性が高い。
編集コメント
OpenAI が自社モデルの最適化のために独自チップを開発するのは、ハードウェア制御権を握りコスト競争力を高める重要な一手であり、業界全体のアーキテクチャ変革の先駆けとなる。
ChatGPT や Codex、およびそれらのツールが利用するモデルを開発した企業である OpenAI と、確立された半導体サプライヤーである Broadcom は、データセンターにおける大規模言語モデルの推論用に特別に設計された新しいチップ「Jalapeño」を発表しました。
両社によると、このチップは大規模データセンターでの展開を意図しており、これは長期的なプロジェクトの第一世代に過ぎず、将来的にはチップが改良されていく見込みです。
Broadcom は、この ASIC（Application-Specific Integrated Circuit）は OpenAI の研究者との対話から得た「詳細な洞察」に基づき、LLM 推論のためにゼロから設計されたものであり、OpenAI が将来のモデルや製品に対して策定しているロードマップにも基づいて開発が進められたと述べています。このチップの設計および生産には9ヶ月を要しました。
このチップは、既存データセンターで現在運用されているシステム向けに設計されたものよりも、現在の LLM のニーズにより特化しているという点が約束されています。
OpenAI は「初期テストでは、Jalapeño が現在の最先端技術と比較してワットあたりの性能を大幅に上回ることが示された」と主張していますが、性能測定はまだ完了しておらず、「詳細な技術報告書は数ヶ月以内に発表される予定である」とも付け加えています。
原文を表示
OpenAI, the company behind ChatGPT and Codex and the models those tools utilize, and Broadcom, an established silicon supplier, have announced a new chip called Jalapeño, designed specifically for large language model inference in data centers.
The chip is intended to be deployed at large data centers, both companies claim this is just the first generation in a long-term project that will see chips refined over time.
Broadcom says that this ASIC (Application-Specific Integrated Circuit) was designed from scratch for LLM inference, based on “detailed insights” from the company’s conversations with researchers at OpenAI, and that the chip’s development was informed by OpenAI’s own roadmap for future models and products. The design and production of the chip took nine months.
The promise is that this chip is more specialized for the current needs of LLMs than those that inference systems currently run on in existing data centers.
OpenAI claims that “early testing shows that Jalapeño will deliver performance per watt substantially better than current state-of-the-art,” but notes that it is not done measuring performance, and that a “detailed technical report will be presented in the coming months.”
関連記事
OpenAI の「Jalapeño」チップの数学的背景
OpenAI は Broadcom と共同で、サードパーティ製ハードウェアへの依存による巨額の資本支出を削減するため、独自に ASIC チップ「Jalapeño」を開発した。これにより、Nvidia 製品の高い利益率から生じるコスト圧力を緩和し、自社の財務軌道を支える狙いがある。
今日は何も大きな出来事はありませんでした
Smol AI News は、6 月 23 日から 24 日にかけての期間に、12 のサブレッドや 544 件のツイートを調査しましたが、AI テクノロジー業界に重大な変化をもたらすニュースは見つかりませんでした。
OpenAI、Broadcomと共同開発した初のAI専用プロセッサ「Jalapeño」を発表
OpenAIは Broadcom と共同で開発した AI サーバー用専用チップ「Jalapeño」を公開しました。この ASIC は大規模言語モデルの推論処理に特化しており、同社の次世代モデルを支える基盤となります。
今日のまとめ
AI日報で今日の重要ニュースをまとめ読み