Metaの故人シミュレーションAI特許が示す『幽霊労働』の危険性

MetaのAI特許が死者をシミュレート──「幽霊労働」の危険性を示す 先週、Business Insiderは、ユーザーの死後にそのソーシャルメディア活動をシミュレートするシステムについて記述したMetaの特許を報じた。この特許は、亡くなった友人のFacebookやInstagramアカウントと死後もチャットでき、大規模言語モデルがその投稿やチャット行動をシミュレートする世界を想定している。 Metaがこの特許を最初に出願したのは2023年だが、そのディストピア的な含意から今週、大きな話題となった。MetaはBusiness Insiderに対し、「この例を進める計画はない」と述べているが、エルサレム・ヘブライ大学とライプツィヒ大学の研究者らによる最近発表された論文は、生成AIが死者の肖像を操るためにますます利用されていることを示している。論文は、この慣行が「死後の流用、所有権、労働、管理をめぐる緊急の法的・倫理的疑問」を提起すると論じている。 「死後の社会におけるAI蘇生と幽霊労働モードの考察」の筆頭著者であるトム・ディヴォン氏は、メールで次のように語った。「Metaの特許は大きく、転換点となる可能性さえある。その違いは規模だ。我々の研究で調べたAI蘇生のほとんどは、非常に特注のもので、家族、擁護団体、博物館、あるいはスタートアップによって開始されたプロジェクトで、通常は非常に特定の感情的、政治的、商業的文脈に結びついていた。アプリとして存在していた場合でも、それらは任意で限定的なものであり、プラットフォームの中核構造に組み込まれたものではなかった。Metaの提案が異なるのは、死後のシミュレーションをソーシャルメディアのインフラに直接織り込まれたものとして想定している点だ」 死者を動かしたり、死者とのコミュニケーションをシミュレートするために技術を使うことは新しいことではないが、生成AIツールがより身近になったことで、この慣行はより一般的になりつつある。ディヴォン氏と共著者のクリスチャン・ペンツォルト氏は、AIを使って故人の声、肖像、人格を再現した米国、欧州、中東、東アジアの実例50件以上を分析し、技術がこのように使われる方法と理由を調査した。 彼らは、研究した事例が以下の3つのカテゴリーに分類されると述べている。 スペクタキュラリゼーション（見世物化）：「娯楽のための著名人のデジタル再上演」。例えば、AI生成されたホイットニー・ヒューストンのライブツアー。 ソシオポリティサイゼーション（社会政治化）：「政治的または記念的目的のための暴力や不正の犠牲者の蘇生」。最近、路怒症事件で亡くなった被害者がAI生成されて法廷で証言する事例を報じた。 マンダナイゼーション（日常化）：「最も親密で急成長しているモード。一般の人々がチャットボットや合成メディアを使って亡くなった親、パートナー、子供と『話し』、日常的なデジタル相互作用を通じて関係を生かし続けるもの」。 この論文は、この拡大する慣行について解決策を提案するというより、疑問を提起している。自分自身の複数のバージョンが同時に存在しうるとき、アイデンティティの概念はどう変わるのか？また、死後の人々の搾取を防ぐためにどのような保護策が必要なのか？ 論文は次のように述べている。「同意、プライバシー、人生の終わりの意思決定などの問題を統治する法的・倫理的枠組みは、来世の人格性が提起する課題に対応するために再評価を必要としている。特に、個人のデータ痕跡と生成AIアプリケーションの複雑に絡み合った関係を統治するための明確な線引きは、今日まで存在しない」 ディヴォン氏は、これらの問題について考えることは、Metaの特許に関して特に重要だと語った。「『幽霊労働』は、死者のデータ、肖像、感情を抽出・再生することで、死者を再び『労働』させる仕組みを説明する。小規模では、これはすでに倫理的懸念を提起している。しかし、プラットフォーム規模では、死後の存在をデジタル経済内での継続的なエンゲージメント、コンテンツ、価値の源へと変えるリスクがあると我々は考えている。[...] Metaの特許は、個人が生前に自分の死後の境界を定義する能力を与えられるのか？ デジタル版DNR（蘇生措置拒否指示）に類似したメカニズムは存在するのか？ と我々に考えさせます」 ディヴォン氏は、現在の法的枠組みはこの技術に対処するのに十分でないと説明した。なぜなら、「デジタル遺物」は通常、相続される財産か、保護されるべきプライバシー上の利益のいずれかとして扱われるからだ。AIはそれらの素材を、変化し、現在において収益を生み出すことができるインタラクティブなものに変える。彼は、立法者は、死後のAIシミュレーションに対して、明確で十分な情報に基づいた「生前の」同意要件を確立することに焦点を当てるべきだと述べた。この問題に対処するいくつかの法律はすでに進行中である。 「核心は、ここでの主な懸念は承認を中心としていると我々は信じている」と彼は言う。「ほとんどの個人は、自分のデジタル痕跡がインタラクティブな死後のエージェントを動かすために使われることについて、明確で十分な情報に基づいた同意を与えていない。もしそのようなシステムがプラットフォームのインフラに組み込まれるなら、無行動は静かに暗黙の同意として機能する可能性がある。[...] 個人が、そのような使用形態に実質的に同意することなく、死後も社会的・経済的価値を生み出し続けるべきかどうか、という問いを立てることが極めて重要だと我々は信じている」

Metaの故人シミュレーションAI特許が示す『幽霊労働』の危険性

背景や根拠まで確認しますか？

関連記事

調べる

選ぶ

サイト