GPT-5.4 が話題を呼ぶ、モバイルでの AI 成長、データセンターの自立型電源化、Apple の拡散モデル研究

親愛なる皆様、 AI コーディングエージェント同士が学びを共有するための Stack Overflow は存在するべきでしょうか？ 先週、私は新しい [Context Hub](https://github.com/andrewyng/context-hub?utm_campaign=The%20Batch&utm_source=hs_email&utm_medium=email&_hsenc=p2ANqtz-9JC4D-W5UcjdQ8rV37QH0gl9Mg2LEqt0aAgHOHo4FxPDoSs6tsWv62X4V9mcrBXuP6xOes)（chub）について[記事](https://www.deeplearning.ai/the-batch/crowdsourced-context-for-coding-agents/?utm_campaign=The%20Batch&utm_source=hs_email&utm_medium=email&_hsenc=p2ANqtz-9JC4D-W5UcjdQ8rV37QH0gl9Mg2LEqt0aAgHOHo4FxPDoSs6tsWv62X4V9mcrBXuP6xOes)を書きました。これは、コーディングエージェントに API ドキュメンテーションを提供するための CLI ツールです。過去のコード例から学習した LLM（大規模言語モデル）を用いて構築されたコーディングエージェントは、しばしば誤ったまたは古くなった API を使用してしまいます。Chub は、最新のドキュメントへのアクセスを可能にすることでこの課題に対処します。過去一週間で Chub に対するコミュニティの熱狂的な反応（GitHub スターが 5,000 件を超え、利用が増加し、ドキュメンテーションに関するコミュニティからの貢献も続いています）に私は非常に興奮しています。皆様のご支援に感謝いたします！ Chub のビジョンの中核となる部分は、他のエージェントを助けることができるコーディングエージェントからのフィードバックを得ることです。具体的には、あるエージェントがドキュメントを取得し、それを実際に試してバグを発見したり、API を使用するより優れた方法を見つけたり、あるいはドキュメンテーションに何かが欠けていることに気づいたりした場合、これらの学びを反映したフィードバックは、ドキュメンテーションを更新する人間にとって非常に有用なものとなります。あるいは、いつかドキュメンテーションを更新するエージェントにとっても同様になるかもしれません。 エージェント向けの Reddit 風ソーシャルネットワークである Moltbook は、多くの OpenClaw エージェントが利用して急速に成長し、メタ社が今週初めに買収しました。AI エージェント同士が「魂」のような話題について議論する会話を少し面白く感じました。実用的な価値に焦点を当てた、エージェント向けの新しいタイプのソーシャルメディアにはまだ余地があると思います。 ![image](https://charonhub.deeplearning.ai/content/images/2026/03/-Should-there-be-a-Stack-Overflow-for-AI-coding-agents-to-share-their-learnings-with-each-other---1.png) Stack Overflow は開発者にとって素晴らしいサービスでした。そこは質問を投稿し、回答を提供し、回答に高評価や低評価をつけることができる場所です。それは大規模言語モデル（LLM: Large Language Models）のトレーニングデータ源として優れたものとなり、多くの開発者が今ではコーディングに関する質問を Stack Overflow ではなく LLM に投げるようになりました。しかし、私は Moltbook と Stack Overflow に触発され、コーディングエージェントがドキュメントに対するフィードバックを提供して他のエージェントを支援できるようにすることが有用だと考えました。 私たちはまだ chub でこの機能を構築する初期段階にあります。(chub を使用したいが、エージェントにフィードバックを提供させたくない場合は、「feedback: false」を ~/.chub/config.yaml に追加して無効化できます。詳細については、[GitHub リポジトリ](https://github.com/andrewyng/context-hub?utm_campaign=The%20Batch&utm_source=hs_email&utm_medium=email&_hsenc=p2ANqtz-9JC4D-W5UcjdQ8rV37QH0gl9Mg2LEqt0aAgHOHo4FxPDoSs6tsWv62X4V9mcrBXuP6xOes) をご覧ください)。私の共同研究者である Rohit Prsad 氏と Xin Ye 氏、そして私は、より多くのドキュメント作成を支援するためのカスタムエージェント型深層研究開発に取り組んでいます。コミュニティからの貢献と相まって、過去一週間でドキュメントコレクションは 100 件未満からほぼ 1000 件に成長しました。コーディングエージェントからのフィードバックが、すべてのコーディングエージェントの利益のためにこのドキュメントを継続的に改善するのに役立つことを期待しています。 ソーシャル共有は人間のためだけではありません。それはエージェントのためでもあります！多くのエージェントがお互いから学習する方法を探る中で—プライバシーとセキュリティに対する強力なセーフガードを提供することに注意しながら—私たちは AI エージェントとそれらがサービスを提供する人間の両方をより良い状態に導いていきます。 作り続けよう！ Andrew ## DEEPLEARNING.AI からのメッセージ Andrew Ng が教える「Agentic AI」では、反射 (reflection)、ツール使用 (tool use)、計画 (planning)、マルチエージェント協調 (multi-agent collaboration) の 4 つの設計パターンを網羅する、生 Python で記述された多段階の自律型ワークフローの設計方法を学びます。DeepLearning.AI 限定で提供されています。[今すぐ登録！](https://www.deeplearning.ai/courses/agentic-ai) ## News ![image](https://charonhub.deeplearning.ai/content/images/2026/03/GPT-5.4-s-Higher-Performance--Higher-Price.png) ## GPT-5.4 の高性能化と高価格設定 OpenAI はフラッグシップモデルを更新し、ツールの利用機能を拡張するとともに、いくつかのベンチマークで最先端の性能を達成しました。その価格は市場最高水準に設定されています。コーディング能力とエージェント機能の向上により、Anthropic の Claude Code に対する OpenAI の競合製品である Codex が飛躍的な進歩を遂げました。 **新機能:** GPT-5.4 は「Thinking」と「Pro」の 2 つのバリアントで提供され、どちらも GPT-5.2 と比較してコンテキストウィンドウが拡大されています。（GPT-5.3 の発売から GPT-5.4 の発売までわずか 2 日しか経過しておらず、OpenAI はその理由について説明していません。）GPT-5.4 モデルはコンピューターをネイティブに使用するように訓練されており、エージェントがツールをより効率的に見つけ利用できるよう支援する機能（ツール検索）を備えています。 - 入力/出力：テキスト、画像（最大 1,050,000 トークン）、テキスト出力（最大 128,000 トークン） - アーキテクチャ：Mixture-of-experts（専門家混合型）トランスフォーマー - 機能：ツール使用（Google 検索、Python コード実行、ファイル検索、関数呼び出し）、ツール検索、コンピュータ操作、調整可能な推論（低、中、高、超高） - パフォーマンス：独立したテストにおいて、GPT-5.4 Pro は超高推論設定で GDP-Val-AA、BrowseComp、Terminal-Bench-Hard、SWE-Bench-Pro、MCP Atlas において最先端の性能を達成しました。MMMU-Pro と Humanity's Last Exam（ツールなし）では Gemini 3.1 Pro Preview にわずかに劣り、ARC-AGI-1 および ARC-AGI-2 では Gemini 3 Deep Think にわずかに劣っています。 - 利用可能状況/価格：GPT-5.4 は ChatGPT のサブスクリプション（Plus、Team、Pro プラン）で利用可能です。API を通じては、GPT-5.4 は入力/キャッシュ済み/出力トークン 100 万あたりそれぞれ $2.50/$0.25/$15 で提供され、GPT-5.4 Pro は入力/出力トークン 100 万あたり $30/$180 です。 - 知識の更新日：2025 年 8 月 - 非公開情報：パラメータ数、アーキテクチャの詳細、トレーニング手法 **仕組みについて：** クローズドモデルに典型的なように、OpenAI は GPT-5.4 および GPT-5.4 Pro の構築方法についてはほとんど詳細を明かしませんでした。このモデルは、ウェブから収集したテキスト、コード、画像と、ライセンスされた資料、ユーザーデータ、合成データを組み合わせて事前トレーニングされたスパース Mixture-of-experts（専門家混合型）トランスフォーマーです。多段階推論、問題解決、定理証明をカバーするデータセットを用いた強化学習によって微調整が施されました。 **パフォーマンス:** GPT-5.4 Pro は、Artificial Analysis による独立したテストにおいて、GPT-5.2 Pro や Claude 4.6 Opus を上回り、いくつかの最先端指標を達成しました。しかし、OpenAI 自身のテストにおいても、いくつかのタスクでは Gemini 3.1 Pro Preview に劣り、同じテストを実行するコストもより高くなりました。 - Artificial Analysis Intelligence Index は、経済的に有用な作業に焦点を当てた 10 のベンチマークの加重平均であり、GPT-5.4 Pro を xhigh レーシング設定にしたものは、推論能力において Gemini 3.1 Pro Preview とほぼ同点（推論：57 ポイント、コスト 2,950 ドル対 57.2 ポイント、コスト 892 ドル）でしたが、Claude Opus 4.6 を max レーシング設定にしたもの（53 ポイント、2,486 ドル）、GPT-5.3 Codex を xhigh レーシング設定にしたもの（54 ポイント、1,650 ドル）、そしてオープンウェイトの GLM-5（50 ポイント、547 ドル）を上回りました。同モデルは、このインデックスを構成する 10 のコンポーネントベンチマークのうち 3 つで首位に立ちました。 - GPT-5.4 Pro を xhigh レーシング設定にしたものは、Artificial Analysis のコーディングおよびエージェント（Agentic）インデックス（それぞれのカテゴリに特化した Intelligence Index のサブセット）でも首位となり、スコアはそれぞれ 57 ポイントと 69 ポイントでした。これは Gemini 3.1 Pro Preview（56 ポイント）や Claude Opus 4.6（68 ポイント）を上回る結果です。 - ARC-AGI-2 の視覚論理パズルでは、GPT-5.4 Pro を xhigh レーシング設定にしたもの（83.3%）が Gemini 3.1 Pro Preview（74.0%）を大きく上回り、Gemini 3 Deep Think（84.6%）にはわずかに及ばない結果でした。 **なぜ重要なのか:** OpenAI の GPT 5.4 は、一時的に Anthropic の Claude を引き離し、Google の Gemini と首位争いを繰り広げています。OpenAI は GPT-5.4 ファミリーのトークンあたりのパフォーマンス向上を強調していますが、Gemini 3.1 Pro Preview と同等のパフォーマンスを出すには依然として約 2 倍のトークン数が必要であり、その高い効率性は価格の高さによってほぼ相殺されています。GPT-5.4 Pro は最先端のコーディングモデルであり、コーディングタスクを完了するコストは Claude Opus 4.6 よりも安価です。しかし、Gemini 3.1 Preview の価格を低く抑えつつ高い全体的な知能を維持し、音声やビデオの処理能力も備えている Google の力は、無二のリーダーになることを目指すあらゆる AI 企業にとって依然として強力な障壁となっています。 **私たちが考えていること:** GPT-5.4 は、ご想像の通り、OpenAI 内部で開発されたベンチマークにおいて最高位を記録しています。しかし、これらの指標は、モデルが事務作業の自動化における困難な課題を解決するために構築されていることを示しています。GPT-5.4 Pro は、[GDPval](https://openai.com/index/gdpval/?utm_campaign=The%20Batch&utm_source=hs_email&utm_medium=email&_hsenc=p2ANqtz-9JC4D-W5UcjdQ8rV37QH0gl9Mg2LEqt0aAgHOHo4FxPDoSs6tsWv62X4V9mcrBXuP6xOes)（法律文書の作成やカスタマーサポートの会話などの知識労働タスクにおいて専門家に対して 83% の勝率または引き分け）および [OSWorld-Verified](https://xlang.ai/blog/osworld-verified?utm_campaign=The%20Batch&utm_source=hs_email&utm_medium=email&_hsenc=p2ANqtz-9JC4D-W5UcjdQ8rV37QH0gl9Mg2LEqt0aAgHOHo4FxPDoSs6tsWv62X4V9mcrBXuP6xOes)（ファイルからのスプレッドシート更新やウェブサイトのナビゲーションなどのコンピューター使用タスクで 75% の成功率を記録し、人間のベースラインである 72.4% を上回る）において印象的なパフォーマンスを示しました。この業務には高い人的コストがかかるため、GPT-5.4 Pro は、推論能力を xhigh に設定した場合でも、非常に優れたお買い得品となる可能性があります。 ![image](https://charonhub.deeplearning.ai/content/images/2026/03/AI-on-Mobile-Skyrockets.png) ## モバイル上の AI が急上昇 モバイル AI アプリのダウンロード数とそれに伴う収益が急増しています。 **何が変わったか:** 市場調査企業である Sensor Tower が発表した「State of Mobile 2026」[レポート](https://sensortower.com/report/state-of-mobile-2026/?utm_campaign=The%20Batch&utm_source=hs_email&utm_medium=email&_hsenc=p2ANqtz-9JC4D-W5UcjdQ8rV37QH0gl9Mg2LEqt0aAgHOHo4FxPDoSs6tsWv62X4V9mcrBXuP6xOes)は、スマートフォンにおける AI アシスタント、生成型アプリ、AI コンパニオンの急速な成長を追跡しています。同社の分析によると、昨年は AI アプリへの支出により、ゲーム以外のアプリからの収益が初めてゲーム収益を上回りました。 **仕組み:** 著者らは 2025 年のモバイル AI 市場を評価しました。独自データおよび開発者からのデータを基に、iOS App Store と Google Play におけるダウンロード数、利用時間、アプリ内課金（広告収入は含まず）を見積もっています。他のアプリストアからはデータを取得していないため、このレポートには中国など国内企業が運営するストアから主にアプリをダウンロードする地域でのモバイル活動は反映されていません。 - 概要：AI を活用したアプリおよびダウンロードによるグローバル収益は昨年加速し、収益は 3 倍超の 50 億ドル以上となり、ダウンロード数は 2 倍超の 38 億件を超えました。 - リーダー：クリエイティブまたは生成タスクに AI を使用するものとして定義された最もダウンロード数の多い AI アプリは、OpenAI の ChatGPT で、次いで Google Gemini、DeepSeek、ByteDance の Doubao、AI 強化型検索エンジン Perplexity が続きました。OpenAI と DeepSeek はグローバルな AI ダウンロードの約 50% を占め、2023 年の 21% から増加しました（Sensor Tower がこのカテゴリの追跡を開始した年）。Amazon、Google、Microsoft などの確立されたテック企業は、過去 1 年間のダウンロードの 30% を占め、2023 年の 14% から増加しました。AI スタートアップのロングテールが最後の 20% を構成しています。 - アシスタント対ジェネレーター：トップ 10 の最もダウンロード数の多いアプリはすべて AI アシスタントでした。しかしながら、Suno の音楽ジェネレーターや ByteDance の Jimeng AI テキストから動画への生成アプリなどの生成型アプリも強い成長を示しました。トップ 10 の AI アシスタントの米国ユーザー数は、総人口のおよそ 60% に相当します。 - エンゲージメント：ユーザーは AI アプリ内で 480 億時間を費やしており、これは 2024 年の合計の約 3.6 倍、2023 年の時間数のほぼ 10 倍に相当します。 - アプリ対 Web：米国のチャットボットユーザーのうち約 1 億 1,000 万人（半数以上）が AI をモバイルアプリのみを通じて利用しており、これは 2024 年初頭の 1,300 万のモバイル専用ユーザーから増加したものです。また、AI アシスタントの利用者のうち 3,400 万人は、アプリとモバイル Web の両方を通じてアクセスしています。 **ニュースの背景：** モバイル AI アシスタントはまだ数年しか経っておらず、ユーザー行動は急速に変化しています。OpenAI は 2023 年 5 月に最初の [ChatGPT モバイルアプリ](https://openai.com/index/introducing-the-chatgpt-app-for-ios/?utm_campaign=The%20Batch&utm_source=hs_email&utm_medium=email&_hsenc=p2ANqtz-9JC4D-W5UcjdQ8rV37QH0gl9Mg2LEqt0aAgHOHo4FxPDoSs6tsWv62X4V9mcrBXuP6xOes) を導入しました。現在、ほぼすべての主要な AI アシスタントがアプリとして利用可能です。今年初め、Microsoft は [研究](https://www.deeplearning.ai/the-batch/microsoft-study-shows-people-use-ai-very-differently-at-different-times-or-on-different-devices/?utm_campaign=The%20Batch&utm_source=hs_email&utm_medium=email&_hsenc=p2ANqtz-9JC4D-W5UcjdQ8rV37QH0gl9Mg2LEqt0aAgHOHo4FxPDoSs6tsWv62X4V9mcrBXuP6xOes) で、Copilot ユーザーがモバイルデバイスや一日の異なる時間帯で異なる行動をとることを発見しました。例えば、モバイルユーザーは仕事や生産性よりも健康やフィットネスについて話す傾向が強かったのです。 **なぜ重要なのか:** AI は、単に作業中だけでなく、デスクから離れている時にも数百万人のユーザーにとって習慣化されつつあり、モバイルデバイスがデスクトップよりも手に入りやすくなっています。そのような文脈において、AI アプリはゲーム、ソーシャルメディア、ショート動画と直接、時間と注意を巡って競合するようになっています。費やされる時間と注目は、より多くの収益と長期的な利用につながります。 **私たちが考えていること:** AI による収益が巨額の資本支出に追いつくかどうかという問いは、AI バブルへの懸念を生んでいます。モバイル AI 収益におけるこの爆発的な成長ペースは、非常に励みになります! ![image](https://charonhub.deeplearning.ai/content/images/2026/03/AI-Data-Centers-Go-Off-the-Grid.png)Meta と OpenAI は、広大な AI データセンターの建設に電力を供給するために、地域グリッドから独立して稼働する民間発電所を構築しているテック企業の一部です。 **何が変わったか:** 規制書類、許可証、投資家との電話会議の議事録、その他の文書によると、米国ではデータセンターに関連する複数の自立型発電所が計画または建設中であると*ワシントン・ポスト*が[報道](https://www.washingtonpost.com/business/2026/02/19/data-centers-power-grid-ai/?utm_campaign=The%20Batch&utm_source=hs_email&utm_medium=email&_hsenc=p2ANqtz-9JC4D-W5UcjdQ8rV37QH0gl9Mg2LEqt0aAgHOHo4FxPDoSs6tsWv62X4V9mcrBXuP6xOes)しました。主に天然ガスで稼働するこれらの発電所はデータセンターに直接接続され、送電網への接続に伴う監督や遅延を回避します。*ポスト*の報道は、エネルギー研究者である Cleanview による[調査](https://cleanview.co/content/power-strategies-report?utm_campaign=The%20Batch&utm_source=hs_email&utm_medium=email&_hsenc=p2ANqtz-9JC4D-W5UcjdQ8rV37QH0gl9Mg2LEqt0aAgHOHo4FxPDoSs6tsWv62X4V9mcrBXuP6xOes)に基づいています。この調査では、顧客に直接電力を供給しつつ送電網にも接続される「メーター後方（behind the meter）」の民間発電所を建設する 46 のプロジェクトが特定されました。そのうち 90% は 2025 年に発表されたもので、これらは米国の計画されているデータセンター容量全体の 30% を占めています。ホワイトハウスの後押しにより、Alphabet、Meta、Microsoft、OpenAI、Oracle、xAI の各社執行役員は、電気料金の上昇への懸念を和らげるため、発電所の建設と送電網のアップグレードにかかる費用を負担することに[合意](https://www.nytimes.com/2026/03/04/technology/ai-energy-pledge-white-house-trump.html?utm_campaign=The%20Batch&utm_source=hs_email&utm_medium=email&_hsenc=p2ANqtz-9JC4D-W5UcjdQ8rV37QH0gl9Mg2LEqt0aAgHOHo4FxPDoSs6tsWv62X4V9mcrBXuP6xOes)しました。 **仕組み:** 自社発電所を建設しているテック企業の名前は、利用可能な文書ではほとんど不明瞭です。これらのプロジェクトは、ギガワット規模の電力消費が予想されるデータセンターを稼働させるもので、テック企業とエネルギーインフラ構築業者、および/または地元電力会社との協力によって進められています。従来のタービンが不足しているため、一部のケースでは非典型的な発電機を用いて急速に開発が進められています。 - Meta はオハイオ州に天然ガス火力発電所 2 基を建設中であり、これにより 400 メガワットの電力を生み出す「Socrates」と呼ばれるプロジェクトを通じて、1 ギガワットを消費するデータセンターを稼働させる計画です。また、テキサス州における別の Meta プロジェクトでは、800 基以上の小規模な天然ガス発電機を接続し、1 ギガワットのデータセンター向けに 366 メガワットの電力を生成します。 - OpenAI と Oracle はニューメキシコ州で「Jupiter」と呼ばれるプロジェクトを進めています。これは大規模な天然ガス発電機を用いて、1 メガワット（注：原文の数値のまま）のデータセンターを稼働させるものです。Jupiter は、両社が展開する広範なデータセンター計画である「Stargate」の一部です。 - ワイオミング州では 1.8 メガワットのデータセンタープロジェクトが進められており、これは改造されたジェットエンジンによって動力源とされます。各エンジンからは 42 メガワット（注：原文の数値のまま）の電力が発生します。これらの発電機は Boom Supersonic 社によって設計されており、同社は航空宇宙企業で、OpenAI のサム・アルトマン CEO が株主かつ取締役会の一員でもあります。 **ニュースの背景:** すべての主要テック企業が、2030 年までに 5.2 兆ドル（注：原文の数値のまま）のコストがかかり、156 ギガワット（注：原文の数値のまま）を消費すると予測される [データセンターの建設](https://www.deeplearning.ai/the-batch/ais-growth-spurred-infrastructure-investment-worldwide/?utm_campaign=The%20Batch&utm_source=hs_email&utm_medium=email&_hsenc=p2ANqtz-9JC4D-W5UcjdQ8rV37QH0gl9Mg2LEqt0aAgHOHo4FxPDoSs6tsWv62X4V9mcrBXuP6xOes) を支えるのに十分な電力へのアクセスを確保しようと必死になっています。 - xAI は 2024 年、Memphis に Colossus および Colossus 2 スーパーコンピュータを収容するデータセンターを建設した際、電力網を迂回して電源を確保しました。同施設は数十基の仮設・可搬型ガスタービンの私的コレクションによって稼働していますが、これらは環境保護庁（EPA）が違法使用と判断したにもかかわらず運用されています。 - Meta は短期的には私的な発電所を建設する一方、長期的な戦略として原子力発電所の建設も進めています。これらの施設は 2030 年代初頭に運転開始予定で、同社は新型炉の建設支援および既存炉からの電力購入にコミットしています。これらの契約により、6ギガワットを超える電力供給が見込まれています。 - Alphabet、Amazon、Microsoft はそれぞれ小規模な契約を結び原子力エネルギーの確保を図っています。Alphabet はアイオワ州で使用停止中の原子力発電所の再稼働に取り組んでおり、Amazon は炉開発企業 X-Energy に投資し、Microsoft は 2026 年から 2030 年の間に推定 170 億ドルで 10.5ギガワットの新たな再生可能エネルギー容量を購入することに合意しています。 **なぜ重要か:** データセンターにおける私的電力の台頭は、AI 企業が現在のエネルギー供給業者が対応できる速度よりも速くキャパシティを増強しようとしていることによるボトルネックを反映しています。これは AI インフラ、発電所、そして公共事業体が相互に作用する様式の変化を示しており、その影響はテクノロジー企業を超えた広範な領域に及んでいます。 - AI による需要の高まりにより、2025 年の電力料金はインフレ率の倍以上の上昇を示したとゴールドマン・サックスは指摘しています。民間発電所がグリッドへの負担を軽減することで、この影響を安定させる助けとなる可能性があります。しかし、ワシントン・ポストが引用する専門家は、民間エネルギー発電のブームが生産設備や専門知識に対する需要を増加させ、結果として電力料金を押し上げる恐れがあると懸念しています。 - ガス火力発電所の増加は、大気中の温室効果ガスの増加を意味し、これが気候変動を加速させています。大手 AI 企業は再生可能エネルギーの利用と温室効果ガス排出の相殺に尽力していますが、建設ペースの速さから化石燃料が便利なものとして利用されてしまいます。民間電力プロジェクトの公的な発表では再生可能エネルギーや原子力、水素発電が強調されていますが、「2025 年と 2026 年に実際に設置されている設備はほぼ完全にガス火力です」とクリーンビューは記述しています。 **私たちが考える:** 最近まで、クラウドコンピューティングのリーダーたちは風力や太陽光などの再生可能エネルギー源に大きく依存しており、時にはバッテリーの支援を受けていました。ガス火力発電所への移行は、カーボンニュートラルを維持するための努力に対する残念な逆行です。 ![image](https://charonhub.deeplearning.ai/content/images/2026/03/Lightning-Fast-Diffusion-Learning-.png) ## 超高速拡散学習 研究によると、画像生成ではなく分類、セグメンテーション、検索といったビジョンタスク用に構築された事前学習済みエンコーダーからの埋め込みを再構成することを学ぶことで、拡散型画像生成器は若干でも高速に訓練できることが示されています。最新の研究では、これらの埋め込みのより小さなバージョンを再構成するように拡散モデルが学ぶ場合、劇的に高速に訓練できることが明らかになっています。 **何が新しいか:** Apple の Yuan Gao 氏、Chen Chen 氏、Tianrong Chen 氏、Jiatao Gu 氏は、ビジョンエンコーダー DINOv2 が生成する埋め込みを再構成することを学習した拡散型画像生成器である [Feature Auto-Encoder](https://arxiv.org/abs/2512.07829?utm_campaign=The%20Batch&utm_source=hs_email&utm_medium=email&_hsenc=p2ANqtz-9JC4D-W5UcjdQ8rV37QH0gl9Mg2LEqt0aAgHOHo4FxPDoSs6tsWv62X4V9mcrBXuP6xOes)（FAE）を提案しました。以前の研究では DINOv2 の埋め込みの巨大なサイズに足踏みしていましたが、FAE は再構成する前にそれらを縮小することを学習しました。 **重要な洞察:** デコーダーによって画像に変換される埋め込みからノイズを除去する潜在拡散モデルは、[より大きな埋め込みからより良い画像を生成します](https://arxiv.org/abs/2501.01423?utm_campaign=The%20Batch&utm_source=hs_email&utm_medium=email&_hsenc=p2ANqtz-9JC4D-W5UcjdQ8rV37QH0gl9Mg2LEqt0aAgHOHo4FxPDoSs6tsWv62X4V9mcrBXuP6xOes)。DINOv2 や SigLIP などのビジョンエンコーダーによって生成される埋め込みは、その規模が大きく意味論的に豊かであるため、この要件に合致します。このアプローチは出力の質を向上させるだけでなく、画像生成器がビジョンエンコーダーの事前学習を活用するため、トレーニングの加速も期待できます。一方で、より大きな埋め込みを処理するにはより大規模なアーキテクチャが必要となり、トレーニング量が大幅に増加するため、速度向上の効果が相殺されてしまいます。解決策として、2 つ目の小型エンコーダーを用いてビジョンエンコーダーの埋め込みを縮小する方法があります。拡散モデルは、この小さな埋め込みからノイズを除去することを学習でき、これにはより少ないトレーニングで済みます。その後、デコーダーが埋め込みを元の埋め込み空間に拡張し、大きな埋め込みの利点を復元した上で、最終的に画像を生成します。 **仕組み:** 推論時、FAE は以下のように動作します。ノイズと ImageNet クラスまたはテキスト埋め込みが与えられると、[SiT](https://arxiv.org/abs/2401.08740?utm_campaign=The%20Batch&utm_source=hs_email&utm_medium=email&_hsenc=p2ANqtz-9JC4D-W5UcjdQ8rV37QH0gl9Mg2LEqt0aAgHOHo4FxPDoSs6tsWv62X4V9mcrBXuP6xOes)（潜在拡散モデル）が縮小された画像埋め込みを生成します。この埋め込みを受け取ると、埋め込みデコーダがフルサイズの埋め込みを生成し、そこから画像デコーダが画像を生成します。著者らは、入力テキストラベルから画像を生成する 2 つの独立した FAE システム（[ImageNet](https://www.image-net.org/?utm_campaign=The%20Batch&utm_source=hs_email&utm_medium=email&_hsenc=p2ANqtz-9JC4D-W5UcjdQ8rV37QH0gl9Mg2LEqt0aAgHOHo4FxPDoSs6tsWv62X4V9mcrBXuP6xOes) を用いて 256x256 ピクセル解像度で生成）と、テキスト記述から画像を生成するシステム（[CC12M](https://arxiv.org/abs/2102.08981?utm_campaign=The%20Batch&utm_source=hs_email&utm_medium=email&_hsenc=p2ANqtz-9JC4D-W5UcjdQ8rV37QH0gl9Mg2LEqt0aAgHOHo4FxPDoSs6tsWv62X4V9mcrBXuP6xOes) を用いて）を訓練しました。 - トレーニング中、FAE はフルサイズと縮小された埋め込みの両方を生成できるよう学習するためにターゲットを必要としました。画像が与えられると、DINOv2 がフルサイズの埋め込みを生成します。このフルサイズの埋め込みに対して、小さなエンコーダ（単一のアテンション層）が縮小された埋め込みを生成します。さらに、この縮小された埋め込みに対して、埋め込みデコーダがそれをフルサイズに拡張します。 - 拡張された埋め込みが与えられると、画像デコーダは画像の生成を学習しました。これは3 つの損失項を使用しました：(i) 予測値と正解ピクセル間の差を最小化する再構成損失；(ii) 未同定のモデルが予測画像と正解画像の両方を埋め込み、その距離を最小化する知覚損失；および (iii) 未同定の判別器が予測画像と正解画像を分類し、画像デコーダがそれを欺くように訓練する敵対的損失。 - ノイズを加えた縮小された埋め込みと、事前学習済み SigLIP 2 によって生成された ImageNet クラスまたはテキスト埋め込みが与えられると、SiT はノイズの除去を学習します。**結果：** FAE はトレーニング速度が速い一方で、最先端の拡散モデルと比較して同等のパフォーマンスを発揮しました。 - ラベルから ImageNet 画像を生成する際、FAE（6.75 億パラメータ）は 800 エポックのトレーニング後に FID 1.29 を達成しました。これは、DINOv2 の埋め込みを縮小せずに再構築することを学習した拡散型画像生成器である RAE（6.76 億パラメータ）よりも優れた結果です。RAE は 800 エポック後に FID 1.41 を達成しました。一方、FAE は約 7 倍の高速化を成し遂げ、わずか 110 エポックで FID 1.41 に到達しました。 - テキスト記述から画像を生成する際、FAE（11 億パラメータ）は MS COCO データセット上で FID 6.9 を達成しました。この性能は、約 4 倍のトレーニングデータで学習して FID 6.88 を達成した Re-Imagen（32 億パラメータ）と同等です。 **なぜ重要なのか:** ビジョンタスク用に訓練されたエンコーダと、画像生成用に訓練されたエンコーダでは、獲得している知識が異なります。この知識はより高品質な画像の生成に役立ちますが、その知識は処理能力を多く必要とする大きな埋め込みベクトルの中に存在しています。これを縮小することで、画像生成器がより実用的な形でこの知識を利用できるようになり、はるかに短い時間で高品質な画像を生成することが可能になります。 **私たちが考えていること:** この研究は、ノイズ除去の技術自体を向上させるのではなく、より豊かな埋め込み空間からのノイズ除去を行うことで、トレーニング時間を短縮しながらより良い画像を生み出しています。

GPT-5.4 が話題を呼ぶ、モバイルでの AI 成長、データセンターの自立型電源化、Apple の拡散モデル研究

背景や根拠まで確認しますか？

調べる

選ぶ

サイト

背景や根拠まで確認しますか？

ニュースの次に確認する

調べる

選ぶ

サイト