深夜番組のキメル氏偽動画拡散、AI ディープフェイクが問題に

「キメル氏のあの映像は本当にあったのでしょうか？」深夜番組のAIディープフェイクがネット上で拡散

Jimmy Kimmel 氏による偽動画。

**

ALAMIN_TUBE/NPR によるスクリーンショット

**

キャプションを隠す

**

キャプションの切り替え**

ALAMIN_TUBE/NPR によるスクリーンショット

Jimmy Kimmel 氏は現在、ABC の深夜トークショーで夏休みに入っています。しかし、軽いファンなら「ホストは未だに現場を離れていない」と誤解しても無理はありません。ソーシャルメディアには、トランプ大統領が会議の最中に居眠りしている様子や、ミシガン州の上院候補者であるアブドゥル・エル＝サイード氏に対する大統領の攻撃についてコメントする Kimmel 氏本人の映像が投稿されています。

Kimmel 氏をはじめとする深夜番組のトークショー司会者を演じる偽動画が、ソーシャルメディア上で急増しています。これらの動画は生成 AI を用いて作られており、他の有名人を模したディープフェイクと比較すると、作成が比較的容易である一方で、社会への混乱をもたらす可能性も高いと懸念されています。

なぜ人々は簡単に騙されるのか

オンライン出版物『LateNighter.com』の創設者兼編集者であるジェッド・ローゼンツヴァイク氏は、こうしたディープフェイクが急増している状況を調査しています。彼は、深夜トークショーの司会者は、視聴者が提示された文脈を容易に受け入れてしまうという特性ゆえ、ソーシャルメディア上で自分の姿を模倣した動画シミュレーションの対象になりやすいと指摘します。

「ジミー・キンメル氏は実際にテレビで政治について話し続けており、こうした映像は毎日ソーシャルメディアに投稿されています」とローゼンツヴァイク氏は語ります。「つまり、昨日ドナルド・トランプが行った行動に関連するキンメル氏のサムネイルを見かけた場合、そこには文脈と信頼が自動的に付与され、一種のカモフラージュとして機能します。重要なのは、すでにキンメル氏の映像で溢れているフィードの中で、それがただのキンメル氏の一コマに見えるかどうかだけです。」

ローゼンツヴァイク氏は、これらのモノローグが本物ではないことを示す決定的な兆候があると説明しています。

「仕草がおかしいのです。文章も生放送のモノローグらしくありません。そして約 10 秒後にはキンメル氏が姿を消し、合成された声だけがニュース映像の上で喋り続けるようになります」と彼は述べています。

こうした動画の中には、数十万回もの再生数を記録し、「少なくとも一部の視聴者はこのコンテンツを本物だと信じている」と示唆するコメントが寄せられるものもあります。ある YouTube の動画へのコメントでは、「真実を語ってくれたジミーに感謝します」という声が投稿されました。

言論の自由に対する脅威

ローゼンツヴァイク氏は、ジョン・スチュワート氏のような他の司会者もこれらの AI シミュレーションの被害者となっていると指摘しつつ、特に『ジミー・キンメル・ライブ！』のディープフェイクが懸念されるのは、同氏がトランプ政権との関係性が極めて対立的であるためだと述べています。

ドナルド・トランプ大統領は、ジミー・キンメル氏の解雇を繰り返し求めてきました。ローゼンツヴァイク氏によれば、多くの動画がトランプ氏を揶揄したり批判したりするこれらの偽物は、連邦通信委員会（FCC）と ABC が言論の自由を巡って法廷闘争中であるというタイミングで、同政権の決意を強める恐れがあります。「ABC はジミー・キンメル氏の発言について毎晩厳しく監視されているのです」とローゼンツヴァイク氏は話しています。

ABC は NPR の取材コメント依頼に対して回答していません。

作成が容易

AI で生成されたトークショー司会者を巡るジャンルは、歌手や俳優のディープフェイクとは異なる意味で、より大きな脅威を呈しています。その理由は、これらの司会者が通常は特定の場所で立ったり座ったりしてカメラに向かって話すだけであるため、作成が比較的容易だからです。また、彼らの声をクローンするために利用できる高品質な音声録音データもインターネット上に豊富に存在します。

「多くの場合、深夜番組の司会者の画像を一枚用意するだけで、それを動かすことができます」と語るのは、ディープフェイク分析を専門とするダートマス大学のコンピュータサイエンス教授であるハニー・ファリード氏です。「音声はこれ、15 秒。台本もこれ。さあ、始めましょう」

さらにファリード氏は、多くのアメリカ人がニュースを得て自らの意見を裏付ける場として深夜テレビを利用している点を指摘しました。

「現在確認されているディープフェイクは、実質的に偽情報キャンペーンです。そしてそれは、私たちが普段から聞き慣れている人々の声を通じて行われているように見えます」とファリード氏は述べています。「そのため、非常に効果的なのです」

深夜トークショーの「AI 偽物」がネットを席巻する

視聴者数は減少傾向にあるにもかかわらず、米国の約 4 割の人々が依然として深夜トークショーを定期的に視聴しています。2025 年に AP-NORC 公共問題調査センターが行った調査によると、これらの視聴者の大多数は民主党支持者であり、従来のテレビ放送で番組全体を見るよりも、オンライン上で切り抜きの動画を見る層が増えています。

ファリード氏とローゼンツヴェイク氏は、この傾向が右派系のトークショー司会者による AI 生成のディープフェイク（偽物）モノローグをソーシャルメディアで見つけにくくしている一因ではないかと指摘しています。

「私が目にしたものは、詐欺や不正行為に関わるものがほとんどです」とファリード氏。「例えば、『ショーン・ハニティが『この仮想通貨を買え』と言っている』といった内容ですね」

ジミー・キンメル氏、ジョン・スチュワート氏、ショーン・ハニティ氏、グレッグ・ガットフェルド氏らの代表者は、NPR の取材依頼に対し、コメントを拒否するか、回答しませんでした。

深夜トークショー司会者のディープフェイクを作成している数少ないクリエイターたちも、彼らの動機について NPR の質問に回答していません。

ファリード氏は、その目的はイデオロギー的な理由によるものか、あるいは金銭を得るためだと分析しています。

「単なるクリックベイトです。注目を集めて広告収入を得る。それだけのことですよ」とファリード氏は語っています。

プラットフォーム側の対応

このAI生成の低品質コンテンツをホストしているプラットフォーム側が、規制に乗り出しています。TikTok（TikTok）は、YouTube を運営する Google とともに、Instagram を運営する Meta と共に、NPR に対して声明を発表しました。これらは、ディープフェイクコンテンツの作成者に対し、AI によって生成されたことを明記することを義務付けています。

また、これらのプラットフォームは、許可されていないディープフェイクを検出するために類似性検知やモデレーション技術を活用しているほか、被害者が自ら削除を依頼できる仕組みも提供していると述べています。

YouTube の親会社である Google は声明でこう述べています。「私たちは、長年かけて構築してきたシステムを用いて、低品質や欺瞞的なAIコンテンツに対処しています。この技術が進展するにつれ、有名人や公人の肖像権を保護するための業界初のツールを開発し、視聴者の透明性を確保するために、現実的なAI生成コンテンツには自動的にラベルを付与しています。」

Instagram や Facebook を運営する Meta は声明で、「AI で生成または改変された写真のような動画や、自然な音声を含む有機的なコンテンツを投稿する際は、当社の AI 開示ツールを通じてその旨を明記することを義務付けます。これを怠った場合には罰則を科す可能性があります」と述べています。

Meta は NPR の取材に対し回答するために、Instagram または Facebook に掲載されたジョニー・カミール氏を扱った深夜トーク番組のディープフェイク動画の例（例）の提出を求めました。同社は NPR から通報を受けた後、該当ページを削除したことを確認しています。

一方、TikTok の声明では、「有害なディープフェイクは削除し、それ以外の違反行為に該当しないリアルな AI 生成コンテンツについては、別途ラベル付けを義務付ける」という方針を示しています。

しかし、これらの動画があまりにも短時間で大量に投稿されるため、多くのケースでルールをすり抜けてしまいます。

イタリアのメローニ首相に関するジョーン・スチュワート氏のディープフェイク（Jon Stewart deepfake）は、TikTok 上で 2 ヶ月以上も削除されずに掲載されていました。AI ラベルの表示はありませんでした。

同様に、YouTube にてドナルド・トランプ氏がゴルフでの腕前を自慢するカミール氏を扱ったディープフェイク動画（video）も、公開時点ではまだ削除されておらず、投稿から 3 週間が経過していました。この動画はすでに 23 万回以上の再生数を記録しています。

法律の遅れ

プラットフォーム側がディープフェイク対策に必死に取り組む一方で、現状では法的な救済手段はほとんどありません。

「深夜番組の司会者などに関するディープフェイク問題は、現在、法制度の隙間にある領域に該当します」と語るのは、人工知能関連訴訟を専門とする知的財産弁護士ルイストロンプス氏です。

トンプス氏によれば、既存の著作権法は、創作作品の無断利用には対抗できますが、有名人の無断による合成複製（ディープフェイク）には対応できていません。ただし、カリフォルニア州やテネシー州など一部の州では、AI 生成音声クローンや動画ディープフェイクに対する保護措置を設けています。また、政治広告におけるディープフェイクの使用に対して規制や開示義務を課す法整備が進む州も増えています。さらに昨年署名された連邦法の「TAKE IT DOWN Act」は、同意のない性的コンテンツのディープフェイク公開を犯罪と定めています。しかし、この法律が対象とするのは性的な内容に限られており、トークショー司会者のコメントのような非性的なコンテンツのディープフェイクには適用されません。

一方、ジョン・オリーバー氏などの深夜トーク番組司会者たちは、自らの番組でディープフェイクの危険性について発言しています。技術的な弊害は、コメディのネタとしても利用されています。

「これらに規制がないまま無秩序に成長することには、いくつかの明確な弊害があります。一部は確かにさほど深刻ではありませんが」とジョン・オリーバー氏は、2025年の『Last Week Tonight』でこのテーマについて語りました。「例えば、多くの人がFacebookで見たとんでもない出来事を両親に説明する際、『それは本当ではない』と伝えなければならないという事実です。」