Hot Chips 会議で OpenAI が独自チップ「Jalapeño」を発表

第 37 回 Hot Chips コンファレンスで最も注目を集めた発表は、OpenAI が独自に開発したチップに関する驚くべき進歩です。Broadcom との提携を発表してからわずか 1 年足らずで、ASIC（特定用途向け集積回路）ではなく、Blackwell を凌駕する完全な代替製品として登場しました。

現在の主要な指標はワットあたりの性能へとシフトしており、Jalapeño はその点で優れた成果を示しています。

Hot Chips の完全なプレゼンテーション資料はまだ公開されていませんが、いくつかの解説を以下にまとめました。より詳細な分析については、OpenAI と共に視聴することをお勧めします。

2026 年 8 月 24 日〜25 日の AI ニュース。12 のサブレッドと 544 件の Twitter をチェックしましたが、Discord で新たな情報は見つかりませんでした。AINews のウェブサイトでは過去のニュースをすべて検索可能です。念のためにお知らせしますが、AINews は現在 Latent Space の一部となっています。メール配信の頻度を選択・解除することもできます。

AI Twitter レビュー

OpenAI の Jalapeño 推論チップと、推論スタックにおけるシフト

本日の技術ニュースの中心は、Jalapeño の公開数値です。OpenAI は独自推論チップ「Jalapeño」の最初のベンチマーク詳細を公表し、実際のモデルワークロードにおいて NVIDIA の GB200/GB300 システムよりも大幅に優れた効率性と低遅延を実現したと主張しています。

OpenAI のテストでは、Jalapeño はピークスループット時にワットあたりの処理量が 1.5〜1.9 倍向上し、エンドツーエンドの遅延は 1.7〜3.6 倍低下しました。また、対話性の高いワークロードでは性能が 2.1〜4.1 倍向上しています。このチップの定格消費電力は 700W ですが、テスト実行中は 550W を下回るか同程度に抑えられていました。

OpenAI は年内に自社のインフラへの導入を開始し、第 2 世代の開発も順調に進んでおり、第 3 世代の取り組みも始まっていると発表しています（OpenAI アナウンスメント、展開ロードマップ、サム・アルトマン）。

エンジニアが注目する理由は、単なる性能の数値ではなく、通常はスループットと遅延のトレードオフの関係にある推論アーキテクチャをよりバランスよく実現した点にあります。複数の技術的な反応では、いくつかの比較対象が特に注目すべき点であると指摘されています。Jalapeño は、一部の環境で積極的なプリフィル/デコードの分離やスペキュレーティブ・ディコーディングといった工夫を行わずとも良好な性能を発揮し、それらを活用するシステムをも上回ったからです（gdb、kimmonismus のまとめ、eliebakouch の分析、You Jiacheng）。

SemiAnalysis はこれを初世代 ASIC としては異例の強さとして捉え、Blackwell や Rubin クラスのシステムと直接比較しています（SemiAnalysis、dylan522p）。

モデル支援によるシステム最適化という二次的な物語も存在します。OpenAI の投稿によると、GPT-Astra と Codex が低レベルカーネルの記述と最適化を支援し、約 2 か月で当初計画になかった 3 つのオープンウェイトモデルを Jalapeño で高性能化しました。特定の注意機構（attention）や MoE ブロックにおけるこれらの実装は、既存の人間による専門家コードと比較して 1.5〜1.8 倍高速に動作したと報告されています (kimmonismus, eliebakouch)。これは、コンパイラやカーネルの作業がアプリケーション層のコーディングだけでなく、モデル改善のループにも組み込まれつつあることを示す重要なシグナルです。

より広範なインフラへの影響として、複数の投稿で Jalapeño が業界全体の転換点と結びつけられています。推論コストの観点から、最先端ラボが今後 NVIDIA に厳密に依存しなくなる可能性がありますが、パッケージングやファウンドリ容量は依然として大きなボトルネックです (Liam Fedus, teortaxesTex の反応、TSMC/CoWoS 容量に関する LearnOpenCV の注意喚起)。

エージェントのハルネス、メモリシステム、評価エンジニアリングが第一級に昇格

モデルの選択と同様に、ハッチング（評価環境）の品質もますます重要視されています。複数の論文や発表で共通して指摘されているテーマは、「エージェントのパフォーマンスは周囲のシステムに大きく依存する」という点です。

Microsoft 主導による新しい論文「AutoSaddler」では、ハッチングをコードとして扱い、失敗事例（failure traces）を用いてプロンプト、ツール設定、制御ロジックをオフラインでパッチ適用することで改善を図っています。その結果、ベースとなるハッチングと比較して GAIA2 で +9.0、SWE-Bench Pro で +9.6、Terminal-Bench 2.0 で +10.0 のスコア向上が報告されています（論文サマリー）。

一方で別の研究では、ハッチングによるばらつきを直接定量化しました。その結果、モデルを切り替えるよりもハッチングを交換する方がスコアに大きな影響を与え、評価スキャフォールドによってモデル間の順位関係が逆転することも明らかになりました。この課題に対する提案として、「構造化された Harness Card（評価カード）の公開基準」が示されています（分析記事「There Is No Neutral Harness」）。

長期にわたるソフトウェアエンジニアリングの課題は依然として未解決です。「SWE Refactor Bench」では、SQLite、zlib、libsodium といった実プロジェクトを対象に、C から Rust への移行や Maven から Gradle への変更、POSIX から WebAssembly への対応など、リポジトリ全体のマイグレーションタスクを測定しています。520 回の試行のうち、3 つのステージすべてを通過できたのはわずか 28 回のみで、生存率は 5.4% に留まりました。また、20 のタスク中 13 は誰も解決できませんでした（EinsiaAI）。

これは、より局所的なコーディングベンチマークで見られる高いバグ修正成功率に対する、有用な是正措置と言えます。

メモリシステムは、圧縮されたチャット履歴ではなく、プログラム可能な状態として再設計されています。DAIR が要約した Alibaba の論文では、エージェントセッションを「追加専用イベントログ」と永続的な Python カーネルで支えるアプローチが紹介されました。この手法では、ツールの出力や派生状態をプロンプトに連続的にシリアライズするのではなく、型付き変数にバインドします。

報告された結果は、LongMemEval_S で 94.8%、BEAM_10M で 73.1%（既存の最良メモリシステムより +5.1 ポイント向上）、Qwen3.8-Max を用いた LOCA_256K で 86.7% です。

知識のトリアージに関する関連研究では、単純な文脈圧縮が正確なルール保持を破壊することが示されました。圧縮を 5 回行ったある設定では安全性ルールの 10% しか維持できませんでしたが、型を意識した保持ポリシーでは 2〜4 倍多くを保持できました。

実用的な評価エンジニアリングは、場当たり的な手法から製品化されたワークフローへと移行しています。LangChain やそのパートナーは、トレースと人間のフィードバックをタスク仕様、合成環境、そして時間経過に伴うエージェントの測定・事後学習に活用できる評価指標に変換する具体的なループを共有しました（Vtrivedy10, hwchase17）。

また LangSmith Engine は、主要な内部ベンチマークで 2 倍以上の性能向上を実現。課題の検出とクラスタリングの改善、SaaS およびセルフホスト対応、Slack や Linear との連携、コストに応じた分析モードなどを搭載しています（LangChain）。

ローカルファーストエージェント、オンデバイス推論、そして新たなパーソナルコンピューティングスタック

本日発表されたローカルエージェント製品の中で、Perplexity の「Portable Computer」が最も明確な存在です。この製品は NVIDIA DGX Spark 上で稼働し、オーケストレーター LLM、サブエージェント LLM、そしてエージェントハネスすべてをクラウドに依存せず、ローカルハードウェア上で完結させる完全なローカル版「Perplexity Computer」として位置づけられています（Perplexity の発表資料、モデル詳細、NVIDIA 公式情報、Arav Srinivas氏による解説）。初期のローカルスタックでは、後方学習済みの PPLX 27B が採用されており、Qwen 3.8 27B も利用可能です。また、Nemotron 3.5 Lightning のサポートも間もなく提供される予定です。

より本質的なトレンドは、「常時稼働するローカルエージェント」の定着です。Srinivas氏は、コネクタから継続的に文脈を取り込み、永続的なループ内で多段階推論を実行し、ユーザー自身のハードウェア上で動作するバックグラウンドプロセスという未来像を明確に描きました（Arav Srinivas氏）。コミュニティの反応は二極化しており、プライバシーや制御権限への期待と、「ローカルファースト」を実現するために 5000 ドルもする DGX Spark を使うべきか、それとも汎用コンシューマーデバイスで済ませるべきかという懐疑論が対立しています（theo氏による批判、theo氏の続報）。

Apple/macOS のローカル AI ツールチェーンも成熟期を迎えています。exo によると、Apple は新製品の M5 Ultra Mac Studio や M6/M5 Pro Mac Mini のページで同社製品を取り上げ、Thunderbolt 5 を介した低遅延 RDMA 技術による Mac クラスター化を強調しました。これにより、Kimi K3 や GLM-5.3 といったモデルを API 並みの速度で実行可能になります。また、4 台の M5 Ultra を接続することで、集約メモリ帯域幅は約 4.8 TB/s に達します（exo）。関連する投稿では、Apple の高速 PCIe ストレージと ANE ベースのビジョンパイプラインが、小規模なローカルクラスターや CPU/ANE/GPU を組み合わせた推論の実用性を高めている点も指摘されています（anemll氏、onirenaud氏）。

ローカルランタイムを取り巻くツール群も拡充しています。Ollama v0.33 では、Claude Desktop がクラウドおよびローカルモデルのサードパーティゲートウェイとして Ollama を利用できるようになるワンクリック統合機能が追加されました（Ollama）。また、OpenCode v2 は Cloudflare Durable Object 内で動作する様子が示され、小規模なエージェントランタイムがエッジ環境に埋め込み可能になっていることが実証されました（fayazara）。

モデル・検索・インフラストラクチャ

Qwen 3.8 はスタック全体で注目を集めています。Together では Qwen3.8-27B のファインチューニングと専用推論サポートが提供され、Unsloth は最適化されたカーネルを活用して無料の 2× Tesla T4 Kaggle インスタンス上で 27B モデルのフル QLoRA ファインチューニングが可能だと発表しました（danielhanchen）。アプリケーション面では、Qwen3.8-27B がオープンモデルの中で Image-to-WebDev Arena で第1位、全体でも第7位を獲得。トークンあたり入出力 100 万回ごとにそれぞれ 0.40 ドルと 3 ドルの価格設定となっています（arena）。

検索・取得インフラには複数の重要な更新がありました。Hugging Face は、Papers with Code の検索エンジンに関する詳細なアーキテクチャ解説を公開しました。その構成は PostgreSQL と pgvector を基盤とし、Qwen 3 Embedding（0.6B モデル）を活用したハイブリッド検索を採用しています。埋め込みベクトルは Hugging Face Jobs を経由して NVIDIA L4 で生成され、アーティファクトはバケットに保存されています。また、Inference Endpoints を通じてライブサービスを提供しています。この同じ技術スタックが、論文ページ上の「関連論文」機能にも採用されており、Niels Rogge 氏が担当しています。

一方、Keenable はシークレット状態から脱却し、Web Search API と Web Query Language の提供を開始しました。これは元ヤンデックス・サーチのリーダーたちが構築したもので、2,600 万ドルのシード資金を支援に得ています。同社はエージェント規模でのウェブ検索取得を明確なターゲットとして掲げています（styskin）。

取得モデルの設計は依然として活発な議論が続いています。後期相互作用やマルチベクトル取得に関する再検討が行われ、スケーリングの挙動がようやく取得ワークロードで可視化され始めているとの主張があります。また、ストレージ形式以上に、モデルとデータベースの共同設計が重要であるという見解も示されています（mixedbread の視点、Silvio Martinico）。

ロボティクス、物理世界モデル、およびエンボディド・データ

Figure が発表した「Index」は、ロボット分野における大規模データセットの発表として注目されています。同社によると、これは世界最大かつ最も多様なロボット用データセットであり、1 秒間に 30 分分の動画がアップロードされるペースで処理され、累計 1600 万本の動画が登録されています。すでにデータ提供に対して 1500 万ドルの支払いが行われ、ダウンロード数は 26.4 万件に達しています。また、同社は今後 12 ヶ月間でデータと計算リソースに 10 億ドルを投入する計画も発表しました（Brett Adcock のフォローアップ発言）。この規模が重要視される理由は、多くのロボット研究ラボにおいて、アーキテクチャの革新性よりも、デモや知覚データの不足がボトルネックとなっている現状があるからです。

大規模な物理・世界モデル化の研究は、コンテキストの限界を押し広げ続けています。Anima Anandkumar は、「Accelerated Understanding」というスタートアップを紹介しました。同社は多様なモダリティと 4 次元時空にわたる物理シミュレーション用の大規模 AI モデルを開発しており、事前学習時に 1 トリオンパラメータ、トレーニング中に 1 トリオンのコンテキスト、推論時にはサブサンプリングやパッチ処理を行わずに 5 トリオンを超えるコンテキストを扱えると主張しています（Anima Anandkumar）。詳細は限定的ですが、この発表は言語モデル以外の最先端研究が向かっている方向を示す重要な指標です。つまり、単なるテキストや動画の生成ではなく、巨大なコンテキストを持つ多モーダルシミュレーションへと重心が移りつつあることを示しています。

具現化された政策の一般化は、依然として活発なベンチマークの対象となっています。あるロボット関連の投稿では、S1 という操作モデルが紹介されました。このモデルは、トレーニング分布外の単一のデモンストレーションからタスクを完了できる能力を持っています（anag004）。また、Google Research は AgentHands を発表しました。これは XR システムであり、物理的なタスクにおける空間的なガイダンスのために、会話エージェントに同期された手のジェスチャーを追加するものです（Google Research）。

主要なツイート（エンゲージメント順）

OpenAI のチップ発表：@sama 氏による Jalapeño の紹介と、@OpenAI によるベンチマークの発表が、これまでにないほど大きな技術的な議論を巻き起こしました。

ローカルエージェントの登場：@perplexity_ai が Portable Computer を発売したのは、チップ関連の話以外では最大の製品リリースでした。

開発者プラットフォーム／エージェントネイティブな Web：@OpenAIDevs による WebMCP Challenge の発表と ChatGPT デスクトップ版での WebMCP サポートは、OpenAI がウェブサイトを明示的なエージェントインターフェースへと導こうとしていることを示しています。

オープンソースのローカルタスクエージェント：@AndrewYNg 氏の OpenWorker に関する発言は、オープンなハッチング、ローカルモデル、セキュリティ重視のワークフローを組み合わせている点で際立っていました。

コーディングエージェントにおけるベンチマークの現実性：@EinsiaAI 氏が SWE Refactor Bench について言及したのは、このセットの中で最も有用なベンチマークリリースの一つです。なぜなら、これは局所的な編集ではなく、リポジトリ全体の移行を対象としているからです。

AI Reddit まとめ

/r/LocalLlama と /r/localLLM のまとめ

1. Qwen3.8 Flash/27B ベンチマークとローカルでの適合性

続きを読む