生成 AI が作る不気味なメニューの共通性問題

初めて遭遇したとき、あなたは自分が狂っているのかと疑います。カフェに入ると、さまざまなベグルサンドイッチが並んだメニューを見ますが、それぞれのイラストは奇妙なほど完璧で、左右対称であり、不自然に滑らかです。何かおかしいという直感的な感覚を覚えるのです。

「もしかして気のせいかな」と思うかもしれませんが、それは杞憂ではありません。生成 AI が作成したメニューは、狭く「好ましい」美意識に基づいて訓練されたモデルによって提供されています。そのため、なぜそう感じるのか言葉にできないにもかかわらず、どこか違和感のある見た目が生まれてしまうのです。

時には、これらのイラストがあまりにも明らかに偽物であることもあります。例えば、チーズが泡立って溶けすぎており、昼食というよりむしろ前衛芸術のように見えるバリューなどです。もっと多いのは、一見すると非常に平凡なもので、よくよく見て初めて「何かおかしい」と気づくケースです。

「まるで、ピザの基本原理を理解していない異星人がピザを作ろうとしているかのようです」と、Reality Defender の CTO であるアレックス・ライスは TechCrunch に語りました。なお、Reality Defender は、AI 検出やコンテンツ検証ツールを販売する新興企業群の一部であり、こうした問題が存在しているからこそ成立しているビジネスです。

ライセル氏は、これらのモデルの構築方法が、なぜイラストに特定の美意識が強く表れているのかを説明できると指摘しています。具体的には、すべてのアイスクリームが完璧な球形をしており、エビが自分の尻尾を食べるよう遺伝子改造されたかのような奇妙な姿をしているような世界です。これは、あるユーザーが「Lovecraftian food horrors（クトゥルフ神話的な食の恐怖）」と表現したような、不気味で独特な美意識の表れと言えます。

ChatGPTやMidjourneyのように、まるで全知全能であるかのようなチャットボットや画像生成器を実現する基盤となっている大規模言語モデル（LLM）や拡散モデルは、膨大な量のデータを用いて訓練されています。これらのモデルはデータセット内のパターンを特定し、「ハンバーガーレストランのメニューを作成して」といったユーザーの要望に対して何を求めているかを予測します。

「こうした生成物の多くは、2015年のChili's（チリーズ）のメニューに似ています。それには明確な理由があります」とライセル氏は述べています。「モデルがその機能を発揮する際に参照したデータセットの基盤となったのが、当時の作品群だったからです。」

AI モデルを構築する企業にとって、新しいトレーニングデータは極めて貴重な資産です。Amazon はその一例として、稀な書籍を入手してスキャンし、トレーニングデータに追加した上で、アップロード後はその書籍を破棄するという事例さえ確認されています。こうした膨大で理解しがたいデータセットの中には、AI によって生成されたコンテンツが混入してしまうのは避けられないことです。しかし、AI モデルが自身の生成したコンテンツを過剰に学習対象としてしまうと、「モデル崩壊（model collapse）」というリスクに直面します。

「モデル崩壊は、狂牛病のようなものです」と Lisle は説明します。「あるモデルの出力を再びそのモデル自体に戻して学習させると、最終的には近親交配が過度になり、システム全体が崩壊してしまうのです。ここで私たちが目撃しているのは、必ずしもモデル崩壊とは異なる『収束（convergence）』です」。

収束は、モデル崩壊ほど極端な現象ではありません。AI の出力品質が低下するものの、完全に使い物にならなくなるわけではありません。

例えば、ある AI モデルにファストフード店のメニュー作成を依頼した場合、そのモデルはおそらく Wendy's、Burger King、McDonald's といった大手チェーンの既存メニューを参照します。これらのメニューはすでに似たようなスタイルを持っています。つまり、AI が生成した出力もまた同じ様式を模倣することになります。もしその AI 生成のメニューが再びトレーニングデータとして取り込まれれば、その様式はさらに強化されてしまうことになります。

メニューや食品広告が、実際の食べ物よりも魅力的に見えるのは昔からある話です。マクドナルドのCMで登場するビッグマックのように、各層をプロップデザイナーが配置して最大限に食欲そそる見た目を作り上げる例はよく知られています。しかし、この効果は AI が生成した画像ではさらに顕著になります。

「データセットの最適化は『見栄えの良さ』や『不快感を与えないこと』を目的としており、その結果として均質化が進む側面があります」と、エリン大学のデジタル未来研究所所長であるリー・レイニー氏は TechCrunch に語っています。「AI が画像でも言語でも得意とするのは、端っこを削ぎ落とすことです」。

より局所的なスケールでは、AI 画像生成ツールを使ってメニューを作成し、その上で編集を加える際にこの画像の平滑化現象が起きるようです。X（旧 Twitter）で「Labtec」というユーザーは、ChatGPT でメニューを作成した後に 100 回にわたって編集を加えた結果、食品が次第に本来あるべき姿から遠ざかっていく様子を示しました。（われわれも同様の実験を再現し、類似の結果を確認しています。）

「最終的な結果を見ると、少し不気味さを感じます」と Labtec は記述しています。

レストラン側がこの問題に陥っている可能性が高く、AI で生成されたメニューの小さな詳細——価格や品名など——を繰り返し修正しているようです。編集を重ねるたびに、食品の画像は少しずつ丸みを帯び、滑らかになっていくのです。

「人間には、AI が生成したものと本物のものを比べた時に、なぜか説明しにくい感覚が働くものです」とレイニー氏は語る。「人々はそれを言葉でうまく表現するのは難しいと感じることもありますが、目にした瞬間に『これは違う』と直感的にわかる。だからこそ、レストランが AI メニューを採用したことに対する反発の初期報道がこれほど鮮烈になった理由の一つなのではないでしょうか」

これらの不気味な AI 生成メニューに対する拒絶反応には、科学的な根拠があります。ドイツのデュイスブルク・エッセン大学の研究者たちは、AI が生成した食品画像が「不気味の谷」現象を示すことを発見しました。

詳細はここ をご覧ください。

G s O D N 7 S 2 M x m l q x U u 4 V l a t U 8 6 o r d e d Q 3 F I 8 % 2 B t 5 j o % 2 F F 3 C L E N o K W g 6 8 R d G L w K S V 1 b S 8 e 1 7 0 k % 2 B c m 6 V r U 5 C 6 v b W B Z m 4 4 r x C s S A I Z b j T P j x w f K Q O K X f y C h o 7 n 9 y C 8 E 1 % 2 B f C q y y k Y s S W E A H w 1 S T W z g % 2 F n F W E 0 % 2 F 8 4 H 2 I a i h c y l r A L t 9 f 0 u 7 w k w u a 7 R C K i m N u X % 2 F g 0 n % 2 F k r Z % 2 F I 9 % 2 F W k B Y Y A w % 3 D % 3 D & X - A m z - A l g o r i t h m = A W S 4 - H M A C - S H A 2 5 6 & X - A m z - D a t e = 2 0 2 6 0 9 0 3 T 2 1 2 3 2 2 Z & X - A m z - S i g n e d H e a d e r s = h o s t & X - A m z - E x p i r e s = 3 0 0 & X - A m z - C r e d e n t i a l = A S I A Q 3 P H C V T Y 3 N G 2 L X 6 B % 2 F 2 0 2 6 0 9 0 3 % 2 F u s - e a s t - 1 % 2 F s 3 % 2 F a w s 4 _ r e q u e s t & X - A m z - S i g n a t u r e = 1 2 9 f b 6 1 a a 1 4 7 8 5 4 2 d e e 9 f 2 b 3 6 a 8 e 3 8 b a f c 7 2 2 b 1 b d 4 d 8 7 3 2 b f 0 8 2 3 a 2 d d f 3 f 6 a 2 2 & h a s h = 5 0 9 3 7 6 e 5 b 7 8 f 1 8 0 5 1 6 e 2 1 8 9 0 5 f 7 c d 9 8 d c 5 7 3 a f 7 5 1 b 8 3 a 6 3 4 0 d b 1 c 7 1 8 f 4 9 0 8 0 0 0 & h o s t = 6 8 0 4 2 c 9 4 3 5 9 1 0 1 3 a c 2 b 2 4 3 0 a 8 9 b 2 7 0 f 6 a f 2 c 7 6 d 8 d f d 0 8 6 a 0 7 1 7 6 a f e 7 c 7 6 c 2 c 6 1 & p i i = S 0 1 9 5 6 6 6 3 2 5 0 0 0 7 9 0 & t i d = s p d f - 3 b 4 6 c d e 6 - 4 1 5 a - 4 d 0 8 - 8 c f 4 - a 8 3 1 b f a b 9 c 0 a & s i d = d b 6 d f 0 2 6 8 f 8 e c 0 4 5 0 f 0 8 7 6 d 9 c 2 e 5 0 4 0 5 d 8 6 9 g x r q a & t y p e = c l i e n t & t s o h = d 3 d 3 L n N S j a W N k Z X J D R Y C T . c G 9 t & r h = d 3 d 3 L n N S j a W N k Z X J D R Y C T . c G 9 t & u a = 0 f 1 c 0 3 5 7 5 a 5 8 0 0 5 2 0 3 0 3 & r r = a 3 5 7 d 0 a e 1 8 6 1 2 f 9 7 & c c = u s ) では、ほぼ本物のように見える食品の画像が、明らかに偽物とわかる画像よりも強い嫌悪感や不安を引き起こすことが示されました。この気持ち悪い反応は、AI に関する文化的な文脈を考慮すると、さらに強まります。

人々がこれらの画像にこれほど否定的に反応するなら、レストラン側が AI メニューの作成をあきらめる十分な理由になるでしょう。しかし、完璧に焼き上げられたハンバーガーバンズをもたらす問題点は、食卓の外にも広がっています。

「目で見、耳で聞くことは、これまで信じることと同義でした。その程度に、裁判制度も証拠の最高基準を録音された自白やビデオ映像に設定しています」とライスは語ります。「しかし、もはやそうではありません。世界は善悪にかかわらず、根本的に変化したのです。」

当記事内のリンクを通じて購入された場合、私たちは少額のコミッションを受け取る可能性があります。これは私たちの編集の独立性には影響しません。