条件付き拡散モデルにおける構成的一般化の局所的メカニズム
本文の状態
日本語全文を表示中
詳細モードで約1分の本文を読めます。
同じ出来事の情報源
この情報源を基点に整理
Apple Machine Learning
研究者らは、訓練時に経験していないオブジェクト数を持つ画像生成能力（長さ一般化）について、制御された環境で検証した。その結果、場合によっては達成可能だが常に成功するわけではないことが示され、この能力の背後にあるメカニズムが不明確であることが確認された。
Source Article
元記事を日本語で読む
本文に関係しない購読案内、埋め込み通知、サイト内プロモーションは除いています。
条件付き拡散モデルは、分布外のカプラーの組み合わせに対して説得力のあるサンプルを生成できるという compositional generalization（構成一般化）能力を備えているように見えるが、この能力の背後にあるメカニズムはまだ不明である。これを具体化するために、我々は length generalization（長さ一般化）、すなわちトレーニング時に観測されたよりも多くのオブジェクトを含む画像を生成する能力について研究を行う。制御された CLEVR 設定（Johnson et al.,2017）において、length generalization は場合によっては達成可能であるが、そうでない場合もあることが明らかとなり、モデルは構成構造の背後にあるものを常に学習しているわけではないことを示唆している。その後、我々は…
原文を表示
Conditional diffusion models appear capable of compositional generalization, i.e., generating convincing samples for out-of-distribution combinations of conditioners, but the mechanisms underlying this ability remain unclear. To make this concrete, we study length generalization, the ability to generate images with more objects than seen during training. In a controlled CLEVR setting (Johnson et al.,2017), we find that length generalization is achievable in some cases but not others, suggesting that models only sometimes learn the underlying compositional structure. We then investigate…
関連記事
今日のまとめ
AIデイリーブリーフで今日の重要ニュースをまとめ読み