Hot Chips 会議で OpenAI が独自チップ「Jalapeño」を発表

記事の3ポイント

1. 1

   圧倒的な性能指標の達成

   OpenAI によると、Jalapeño はピークスループットでワット当たり処理量が NVIDIA GB200/GB300 システムより 1.5〜1.9 倍高く、エンドツーエンド遅延は 1.7〜3.6 倍低いという結果を示した。

2. 2

   アーキテクチャの革新性

   同チップは通常のスループットと遅延のトレードオフを解消する設計であり、事前計算や推測デコーディングなどの特殊な手法を使わずに競合システムを上回る性能を発揮した。

3. 3

   AI による開発プロセスの変革

   OpenAI は GPT-Astra と Codex を活用して低レベルカーネルの最適化を自動化し、人間の専門家によるコードより 1.5〜1.8 倍高速な実装を短期間で達成したと発表した。