あなたはモード崩壊のリスクから免れない（8 分読了）

「モード崩壊」とはいくつかの現象を指します。まず、初期の画像生成 AI が学習データ分布における「最頻値」の出力のみを生産する傾向に*崩壊*するという観察でした（白いフェンスと庭の木がある家など、非常に一般的なものです）。次に、AI に対して AI 生成入力で訓練するとこの効果が極めて急速に発生するという観察がありました。その後、これはしばらくの間、「AI が壁にぶつかった」と考える人々の「今日の希望の薬」になりました。彼らは AI 業界が自らの首を絞めるようにして消滅してしまうと考えており（したがって、人間より賢い AI が引き起こす可能性のある問題に対処する必要はないと）、そう信じていました。そしてそれは忘れ去られました。なぜなら、何をすべきかを知っていれば、AI 生成入力で訓練することは実際には十分に可能であることが分かったからです。 また、これは助成金交付団体が強い慣性を持つ理由であり、お気に入りのバンドの曲が 3 枚目のアルバム以降すべて同じように聞こえる理由であり、貿易による利益がない場合でも専門化すべきである理由でもあります。 ## 画像生成 AI ある画像生成 AI を想像してみてください。この AI は以下のようなものを入力として受け取ります： [元の画像:](https://substackcdn.com/image/fetch/$s_!90jq!,f_auto,q_auto:good,fl_progressive:steep/https%3A%2F%2Fsubstack-post-media.s3.amazonaws.com%2Fpublic%2Fimages%2F044c2dfc-1f6c-48e1-982d-bc9bbe46a502_678x500.png)[https://commons.wikimedia.org/wiki/File:Dog_Breeds.jpg](https://commons.wikimedia.org/wiki/File:Dog_Breeds.jpg) そして、真ん中の空白部分を埋めるように訓練されていると仮定しましょう。ゴールデンレトリバーとタビー猫を 50:50 の割合で混合したデータセットで訓練されているとします。任意の画像に対して、まず retriever（ゴールデンレトリバー）を描くか cat（猫）を描くかを決定する必要があり、次にその動物が具体的にどのように見えるべきかを決定する必要があります。モデルには限られたパラメータ空間しかなく、それを 3 つのタスクに配分しなければなりません： - 欠けている動物が犬か猫かを推測する - 犬の画像を生成する - 猫の画像を生成する まずタスク (1) は無視して、モデルがどのようにしてタスク (2) と (3) の間で能力を配分するかについて考えてみましょう。猫と犬を描く難易度が同等で、両カテゴリにおいて容量に対するリターンの逓減（diminishing returns）が見られ、かつカテゴリの出現頻度も等しい場合、モデルは両方のタスクに同程度の容量を割くべきだと予想されます。再び、クラスが対称的であるため、タスク (1) からの予測も犬：猫で 50:50 になると予想すべきです。 では、犬と猫の比率が 70:30 の場合はどうなるでしょうか？第一次的な効果として、モデルはタスク (2) にタスク (3) より多くのリソースを割り当てることになります。これは明白ですが、二次的な効果も存在します： モデルが、欠けている動物が犬である確率が 50%、猫である確率も 50% だと考えている状況（犬の方が一般的であるという事実を考慮した上での）を想像してください。このモデルには以下の選択肢があります：優れた犬の画像を生成するか、平凡な猫の画像を生成するかです。どうすべきでしょうか？ もし動物を間違えて予測すれば、どちらにせよ失敗ですが、正しく予測できれば犬を描く方が有利です。したがって、モデルは犬を描く側に誤りを犯すべきなのです！この分布は*モード（最頻値）*ターゲットへと押しやられています。 最初の生成器の出力にもう一つの生成器を訓練すると、その生成器は*さらに頻繁に*犬を生成するようになります！これがモード崩壊です。 これは 2 つの部分からなるプロセスです。各*個別の*ステップが分布をわずかにモードへとシフトさせ、各*連続する*ステップが前のステップでのシフトを固定し、それを増幅します。 もし脚注をお読みになりたいのであれば、この考え方は他のいくつかの状況にも一般化されます。 ## 助成金提供者 さて、あなたが慈善家として、資金を配分する助成金管理者を雇っていると仮定しましょう。あなたは、グローバルヘルスに関する提案と動物福祉に関する提案が 70:30 の割合で混在したものを手に入れます。 当然のことながら、あなたはグローバルヘルスプロジェクトの評価において、動物福祉プロジェクトの評価よりもわずかに優れた人物を採用します。その従業員は、動物福祉の提案よりもグローバルヘルスの提案の方がより容易に最良のものを選べるため、助成金の配分を 75:25 の比率で行います。 次の助成金交付の会議では、拡大を決断します。あなたの従業員は2人の新規採用者を迎え入れ、昨年の助成金に基づいた評価プロセスを彼らに指導します。彼らは75対25の比率でデータに訓練され、動物福祉に関する提案よりもグローバルヘルスに関する提案の評価において著しく向上します。 ## あなたの好きなバンド これでパターンがお分かりでしょうか？そのバンドは最初のアルバムで、夢のようなポップソング7曲とプログレッシブロック風ソング5曲を書きました。その後、前者の作成が得意であるため、次のアルバムでは9対3となり、3枚目にはロックを完全に放棄してしまいます。 しかし5枚目のアルバムになると、彼らはロックに飽き、「インテリジェント・ダンス・ミュージック」（実際には踊るためのものではないようですが！）と呼ばれるものを制作することを決意します。4枚目のアルバムのツアーで得た数百万ドルが、彼らに十分な時間を与え、休憩を取り、[電子音楽家が楽曲制作に使用する奇妙なガジェット]の使い方を学ぶことができました。スラック（Slack）が救世主として現れます！ ## 分業 人々は通常、分業を「貿易による利益」に帰因します。貿易はその一部ですが、すべてではありません。 商品やサービスを金銭と交換する能力は、私たちを画像分類器と同じ状況に置きます。私たちのモデルが、「犬」か「猫」のどちらが生成すべき正しい画像であるかを50%ずつの可能性だと考えていた時を思い出してください。現代経済では、会計士として1日働くことでもパーソナルトレーナーとして1日働くことでも、報酬を得る可能性は同程度です。ただし、その確率は50%ではなく約100%なのです。 会計士としてのスキルは、「良い一日の会計業務」という生成モデルとみなすことができます。同様に、パーソナルトレーナーとしてのスキルもそうです。会計士として数日働けば、あなたは自分の生成物（ある意味で）に依存するようになり、「良い一日の会計業務」に関するあなたのモデルが次第に洗練されていきます。その結果、「良い一日のパーソナルトレーニング業務」に関するあなたのモデルは取り残されることになります。 これは貿易がなくても機能することに注意してください。例えば、無人島にいると仮定しましょう。晴れなら狩りに行き、曇りなら漁に出ます。活動するたびに、そのスキルは次第に向上します。もし天候の 3/4 が晴れなら、狩りのスキルは漁よりもはるかに上達します。そうするとすぐに、少し雲がかかっただけでも狩りに行くなり、太陽が差す部分がある程度曇っているときにも狩りに行き、最終的には毎日狩りをするようになります。少なくとも現地の動物相をすべて絶滅させるまでです。その後、あなたは困ったことになります。 ## Slack 私は、モード崩壊（mode collapse）は一般化された現象として、時間とともにほぼすべての知的システムに作用する力だと考えています。しかし、それが避けられないものとは思いません。外部の力が投資に対するリターンを変化させる場合（無人島での動物相の急減のような）、あなたは変化を余儀なくされるかもしれません。より可能性が高いのは、投資に対するリターンが時間の経過とともに低下し、何らかの恒常性効果を生み出すことです（採石場が次第に希少になり、漁に出る頻度が高まるなど）。 翻訳全文 モードコラプスに陥るのを防ぐには、単に「それを好まない」という気持ちさえあればいいのです。違うことをすればよいだけです。バンドの例がこれを示しています。 しかし残念ながら、これができるのは余裕がある場合に限られます。もしあなたが今や釣りが全く下手で獲物もほとんど残っておらず、釣り方を学ぶために狩りを休む日すらないという状況なら、毎日狩りに行かなければならないでしょう。その場合、あなたは飢えてしまいます。レコードレーベルが今後 6 ヶ月以内にヒットアルバムを要求しているなら、IDM（インテリジェント・ダンス・ミュージック）を作る方法を学ぶ時間などないのです。 進化さえもこの影響から免れてはいません！高度に特化した動物（および植物）はどこでも一般的に見られます。例えば、赤アリの巣の中でしか成熟できない [オオカバマダラ](https://en.wikipedia.org/wiki/Large_blue) の幼虫や、単独性のミツバチの一種のみによって受粉される [ラン科の植物（ハナバチラン）](https://en.wikipedia.org/wiki/Ophrys_apifera) などです。これらは生態系におけるわずかな変化（「くしゃみ」）でさえも絶滅の危機にさらされやすい傾向があります。 したがって、モードコラプスには警戒してください。あなた自身も免れてはいないのですから！ - 3 つのクラス、つまり猫、犬、カエルが 1:1:1 の比率で存在すると仮定しましょう。ここで、猫と犬の画像生成の間には何らかの共通する能力（例えば毛並みのテクスチャを生成する能力など）が存在し、それらのいずれともカエルの間には共有できないと仮定します。最適な戦略は、その効率化を活用して、カエルよりもわずかに猫や犬を描くのが上手くなり、さらに二次的には、カエルよりも毛むくじゃらな生き物（猫や犬）側にわずかに誤差を設けることです。 あるいは、猫が本質的に犬よりも描きやすいと仮定しましょう。その場合の最適なポリシーは、猫ほどには達しすぎない程度に、犬に対して猫よりやや多くのリソースを割り当てることです。そして、最終的には猫側に誤差を寄せるべきです。 全体的なパターンとして、"thing-space"（物事空間）において密度が高いものや、単純で生成が容易なものが優先される傾向があります。

あなたはモード崩壊のリスクから免れない（8 分読了）

背景や根拠まで確認しますか？

関連記事

調べる

選ぶ

サイト