選挙における AI 生成広告が視覚的信頼を損なう懸念

政治家の言葉に信頼を寄せることがいかに難しいか、これは古くから言われてきたことです。しかし今、電波やソーシャルメディアを埋め尽くす AI 生成の選挙広告が、人々の目と耳に対する信頼をもさらに揺るがしています。

なぜ重要なのか：政治テックの専門家は、近年アメリカ人の政治家や制度への信頼が急落している中、AI による選挙広告がこの信頼の低下に拍車をかける可能性があると指摘します。

関係者の発言：スタンフォード法科大学院 AI イニシアチブの共同ディレクターであるネイト・ペルシリ氏は Axios に対し、「アメリカ人がエリート機関から真偽を見極める力を失いつつあるのは事実ですが、AI はこの傾向を悪化させています」と述べています。

「私たちが消費する人工的なメディアが増えれば増えるほど、人々が真実と虚構を見分ける能力は低下し、またそれに関心を持つことさえ少なくなるでしょう。これは重要な注意点です」

ニュースの背景：テキサス州上院議員候補のケン・パクストン氏は最近、民主党候補ジェームズ・タラリコ氏を標的にしたリアルな選挙広告を発表しました。この広告は AI で生成されたタラリコ氏が、文脈から切り離された彼の最も物議を醸す発言の一部を語るという内容でした。

合成されたタラリコ氏は、生物学的性別や神、キリスト教に関するタラリコ氏の発言を組み合わせて再構成し、元の文脈を削ぎ落としていました。

この広告は実際の発言に基づいていますが、AI で生成されたタラリコの姿を使って発話させる一方で、一部の言葉遣いを変更しています。

背景：パックストンの広告は、データセンターをめぐる対立など、AI 全体に対する広範な反発の高まりの中で発表されました。

「右派も左派も一致して言えるのは、AI を信頼していないということです」とコーネル大学のテック・ポリシー研究所所長であるサラ・クレスはアキシオスに語ります。「人々が求めているのは、AI が生成した粗末なコンテンツではなく、本物です。」

クレス氏はパックストン氏が不必要なリスクを冒した可能性があると指摘しています。「彼が自らを AI への反発と混同させるような曖昧な状況を作るよりも、発言そのものをそのまま伝える方がはるかに有益だったはずです。」

焦点：AI は人々が騙されなくても、公衆の信頼を損なう可能性があります。

「AI が作成したメディアの台頭による主な害悪は、人々が AI 生成物にだまされることではありません」とペルシリ氏は述べています。彼が懸念するのは、悪意のある行為者が本物の出来事を別のディープフェイクだと片付けてしまうことです。

有権者が広告が合成されたものであることを認識していても、その感情的な影響は残りますと、UC アーバイン大学の認識論学者であるケイリン・オコナー氏は指摘します。「公人が悪い発言をしたり悪い行動をとったりしているのを見れば、結果として彼らに対してネガティブな感情を抱いてしまう可能性があります。」

クレス氏によれば、持続的な懐疑心や警戒心は「単なる不便さ」によって疲弊し、「証明されるまでコンテンツは偽物だと考える」という状態を招くと述べています。

全体像：すべての政治目的の AI が同様に欺瞞的であるわけではありません。

例えば、ロサンゼルス市長候補のスペンサー・プラット氏の漫画風の広告は、ディープフェイクというよりはむしろミームとして機能していました。

連邦レベルの法律は実質的に存在せず、多くの州では誤解を招くおそれのある広告に対してディープフェイクの開示を義務付ける一方、明らかに風刺的なコンテンツにはより緩やかな規制しか課していません。

ニューヨークでは、州民主党が直近で選挙当局に対し、共和党知事候補の AI 広告について「本質的に欺瞞的な」ラベルが欠落しているとして調査を要請しました。これに対し共和党側は、これは風刺であると主張しています。

結論として、明確なルールがない限り、有権者は州ごとにバラバラな AI 選挙キャンペーン基準に直面し、共通の事実から離れさせられ、政治家への信頼がさらに損なわれる恐れがあります。

詳しく読む：AI ディープフェイクの爆発的増加が米国の選挙を再定義している