数ステップ拡散のための軌道モデル
NTM（正規化軌道モデル）は、拡散モデルの生成ステップを大幅に削減しつつ、従来の手法が犠牲にしてきた厳密な尤度枠組みを維持する画期的なアプローチである。
キーポイント
既存手法の限界打破と新アーキテクチャ
Few-step 生成における既存の蒸留や一貫性学習が抱える尤度枠組みの欠如を解消し、逆ステップを条件付き正規化フローとしてモデル化する NTM を提案する。
自己蒸留による高品質な高速生成
厳密な軌道尤度を活用した自己蒸留により、軽量なデノイザーがわずか 4 ステップで高品質な画像を生成できることを実証している。
ベンチマークでの競合他社との同等以上の性能
テキストから画像への生成タスクにおいて、既存の強力なベースラインと同等かそれ以上の性能を 4 ステップという高速サンプリングで達成している。
影響分析・編集コメントを表示
影響分析
この研究は、拡散モデルの速度と理論的厳密性の両立という長年の課題に対する決定的な解決策となり得ます。特に、生成プロセスにおける尤度計算が可能になることで、確率的生成モデルの信頼性評価や制御可能性が飛躍的に向上し、産業応用における採用ハードルを大幅に下げる可能性があります。
編集コメント
「4 ステップで高品質」という数値は実用化の壁を崩す可能性がありますが、理論的な尤度計算を維持しつつこれを実現した点は技術的に極めて重要です。今後の生成モデルの速度競争における新たな基準となるでしょう。
**
抄録：拡散ベースのモデルは、サンプリングを多数の小さなガウスノイズ除去ステップに分解するという仮定に基づいています。これは、生成が数回の粗い遷移に圧縮された場合にこの仮定が成り立たなくなります。既存の数ステップ手法は、知識蒸留や一貫性学習、あるいは敵対的目的関数を通じてこれに対処していますが、その過程で尤度枠組みを犠牲にしてしまいます。私たちは、各逆ステップを正確な尤度訓練を持つ表現力豊かな条件付き正規化フローとしてモデル化する正規化軌道モデル（NTM: Normalizing Trajectory Models）を導入します。アーキテクチャ的には、NTM は各ステップ内に浅い可逆ブロックと、軌道上にわたる深い並列予測器を組み合わせ、スクラッチから訓練可能、あるいは事前学習済みフローマッチングモデルから初期化可能なエンドツーエンドネットワークを形成しています。その正確な軌道尤度はさらに自己蒸留を可能にし、モデル自身のスコア関数を用いて訓練された軽量ノイズ除去器が、4 ステップで高品質なサンプルを生成します。テキストから画像へのベンチマークにおいて、NTM は 4 つのサンプリングステップという極めて少ない回数で強力な画像生成ベースラインと同等かそれ以上の性能を発揮し、生成軌道上での正確な尤度を保持する点で唯一無二です。
主題：
コンピュータビジョンおよびパターン認識 (cs.CV); マシンラーニング (cs.LG)
引用形式：
arXiv:2605.08078 [cs.CV]
(または、このバージョンについては arXiv:2605.08078v1 [cs.CV] を参照してください)
https://doi.org/10.48550/arXiv.2605.08078
arXiv が DataCite を介して発行した DOI
提出履歴
送信者: Jiatao Gu [メールを表示]
[v1]**
2026 年 5 月 8 日（金）17:57:14 UTC (30,986 KB)
原文を表示
Abstract:Diffusion-based models decompose sampling into many small Gaussian denoising steps -- an assumption that breaks down when generation is compressed to a few coarse transitions. Existing few-step methods address this through distillation, consistency training, or adversarial objectives, but sacrifice the likelihood framework in the process. We introduce Normalizing Trajectory Models (NTM), which models each reverse step as an expressive conditional normalizing flow with exact likelihood training. Architecturally, NTM combines shallow invertible blocks within each step with a deep parallel predictor across the trajectory, forming an end-to-end network trainable from scratch or initializable from pretrained flow-matching models. Its exact trajectory likelihood further enables self-distillation: a lightweight denoiser trained on the model's own score produces high-quality samples in four steps. On text-to-image benchmarks, NTM matches or outperforms strong image generation baselines in just four sampling steps while uniquely retaining exact likelihood over the generative trajectory.
Subjects:
Computer Vision and Pattern Recognition (cs.CV); Machine Learning (cs.LG)
Cite as:
arXiv:2605.08078 [cs.CV]
(or
arXiv:2605.08078v1 [cs.CV] for this version)
https://doi.org/10.48550/arXiv.2605.08078
arXiv-issued DOI via DataCite
Submission history
From: Jiatao Gu [view email] [v1]
Fri, 8 May 2026 17:57:14 UTC (30,986 KB)
関連記事
今日のまとめ
AI日報で今日の重要ニュースをまとめ読み