OpenAI、Broadcom 製初の独自チップを発表
本文の状態
日本語全文を表示中
詳細モードで約4分の本文を読めます。
同じ出来事の情報源
この情報源を基点に整理
TechCrunch AI
OpenAI が Broadcom と共同開発した自社初の専用チップを公開し、AI 計算能力の向上を目指す。
Continue in AI NEW LAB
このニュースを、実務の判断につなげる
AI NEW LABで、試したことや先に確認したい条件を共有できます。まずはログインなしで読めます。
AI NEW LABで論点を見るSource Article
元記事を日本語で読む
本文に関係しない購読案内、埋め込み通知、サイト内プロモーションは除いています。
水曜日、OpenAI は Broadcom と共同で設計・製造した初の独自推論プロセッサを発表しました。Jalapeño（ハラペーニョ）と名付けられたこの新プロセッサは、OpenAI の推論システムが持つ独自のニーズに合わせて特別に設計されています。同社によると、チップの開発には OpenAI 自身の AI モデルも関与したとのことです。
まだテスト段階にあるものの、OpenAI によれば初期の結果では、現在の最先端の代替品と比較してワットあたりのパフォーマンスが大幅に向上していることが示されています。
この提携は 10 月に公式発表 されましたが、OpenAI のチップ計画については、同社が Nvidia の GPU への依存度を低下させる手段として 長年噂されてきました。Google や Amazon も同様の目的のために独自チップを構築しており、これらは「AI アクセラレータ」と呼ばれることが多く、機械学習のワークロードを高速化するために特別に設計された半導体です。
OpenAI のプレジデントである Greg Brockman は、Broadcom との提携発表直後、社内ポッドキャスト で同社のチップ開発へのアプローチについて説明しました。
「私たちはワークロードに対する深い理解を持っています」と、ブロックマンはエピソードの中で語りました。「私たちは特に、サービスが行き届いていない特定のワークロードを探し、『どのようなものを構築すれば、可能なことを加速できるか』と問うてきました」
ハラペーニョは、ユーザーの命令に応じて事前構築された AI モデルを実行する推論プロセスのために特別に設計されています。発表において OpenAI は、リアルタイムのコーディングモデルを実行する際のこのチップの低運用コストを強調しました。前学習のようなよりパフォーマンス集約的なタスクには依然として Nvidia のハードウェアが依存すると考えられますが、推論コストにおけるわずかな削減でも、同社の収益性に大きな改善をもたらす可能性があります。
その推論システムの最適化は、今後の AI の経済性において決定的な要因となる可能性があり、それはスタックのあらゆるレベルで起こると予想されます。OpenAI はすでに Codex やそれを支えるモデルといったエージェント型製品を構築しており、さらにそれらのモデルを実行するためのデータセンターも整備しています。目的別に設計されたチップへの参入により、同社は発表で説明した通り、このプロセスをさらに一歩進めることが可能になります。
「OpenAI は、最先端モデルの開発やその上に製品を構築するだけでなく、その基盤となるインフラストラクチャの設計にも取り組んでいます。具体的には、チップアーキテクチャ、カーネル、メモリシステム、ネットワーク、スケジューリング、デプロイメントシステム、そして製品体験です」と同社は述べています。「OpenAI はスタック全体にわたって事業を展開しているため、各層は同じ目標を中心に最適化されています：ユーザーにとってモデルをより高速で、より信頼性が高く、より手頃な価格にすることです」
*当記事内のリンクを通じてご購入いただいた場合、私たちは少額のコミッションを受け取る可能性があります。これは当社の編集の独立性には影響しません。
Russell Brandom は 2012 年以来テクノロジー業界を取材しており、プラットフォームポリシーと新興技術に焦点を当てています。彼は以前 The Verge や Rest of World で勤務し、Wired、The Awl、MIT の Technology Review に寄稿しています。
彼への連絡先は russell.brandom@techcrunch.com または Signal（412-401-5489）です。
原文を表示
On Wednesday, OpenAI unveiled its first custom-built inference processor, designed and manufactured in collaboration with Broadcom. Named Jalapeño, the new processor was designed specifically for the unique needs of OpenAI’s inference systems. OpenAI’s own AI models assisted in the development of the chip, the company said.
While the chip is still being tested, OpenAI says early results show significantly better performance-per-watt than current state-of-the-art alternatives.
The partnership was officially announced in October, but OpenAI’s chip plans have long been rumored as a way to reduce the company’s dependence on Nvidia’s GPUs. Google and Amazon have both built custom chips to serve a similar purpose, often called “AI accelerators” — silicon designed specifically to speed up machine learning workloads.
OpenAI president Greg Brockman explained the company’s approach to chip development on its in-house podcast, shortly after the Broadcom partnership was announced.
“We have a deep understanding of the workload,” Brockman said in the episode. “We’ve really been looking for specific workloads that are underserved, [and asking] how can we build something that will be able to accelerate what’s possible?”
Jalapeño is specifically designed for inference, the process of running pre-built AI models in response to user commands. In the announcement, OpenAI emphasized the chip’s low operating cost when running real-time coding models. It’s likely that more performance-intensive tasks like pre-training will still rely on Nvidia hardware, but even small reductions in inference costs could do a lot to improve the company’s bottom line.
Optimizing that inference system may prove to be a crucial factor in the economics of AI going forward — and it’s likely to take place at every level of the stack. OpenAI is already building agentic products like Codex and the models that power them, as well as data centers to run those models. Moving into purpose-built chips lets the company go even further in that process, as the company explained in its announcement.
“OpenAI is not only developing frontier models or building products on top of them; it is designing the infrastructure underneath them: chip architecture, kernels, memory systems, networking, scheduling, deployment systems, and product experience,” the company wrote. “Because OpenAI operates across the stack, each layer can be optimized around the same goal: making its models faster, more reliable, and more affordable for users.”
*When you purchase through links in our articles, we may earn a small commission. This doesn’t affect our editorial independence.*
Russell Brandom has been covering the tech industry since 2012, with a focus on platform policy and emerging technologies. He previously worked at The Verge and Rest of World, and has written for Wired, The Awl and MIT’s Technology Review.
He can be reached at russell.brandom@techcrunch.com or on Signal at 412-401-5489.
関連記事
News to Guide
ニュースの次に確認する
発表内容を、現在の料金や仕様と照らし合わせられる関連ガイドです。
今日のまとめ
AIデイリーブリーフで今日の重要ニュースをまとめ読み