メタ、ユーザーが公的アカウントの AI ディープフェイクを作成できる Instagram 機能を停止
Meta は、ユーザーの許可なく公開アカウントのコンテンツを AI 画像生成に利用可能にする新機能に対し、セックスストーカーや詐欺リスクへの強い批判を受けて撤回した。
キーポイント
機能の即時停止と撤回
Meta は今週発表した「公開 Instagram アカウントをタグ付けして AI 画像を生成する」機能を、大きな反発を受けるとすぐに停止し、利用不可とした。
プライバシーと同意の欠如への批判
アカウント所有者の許可なくコンテンツが使用される仕組みに対し、「肖像権の侵食」や「セックスストーカー・詐欺のツール化」という深刻な懸念が専門団体から指摘された。
オプトアウト設計への不満
Meta は設定画面でのオプトアウト（拒否）機能を提供していたが、リスクの高い設計をユーザーに回避の負担を押し付ける姿勢は「許容できない」と強く批判された。
業界団体からの警告
俳優組合（SAG-AFTRA）もメンバーに対してオプトアウトを推奨しており、クリエイター権利保護の観点から企業の対応が問われている。
影響分析・編集コメントを表示
影響分析
この出来事は、生成 AI の普及に伴い「データ利用の同意」がいかに決定的な要素かを再認識させる事例となった。企業側が技術的可能性を優先し、ユーザー保護を後回しにした場合、社会的信頼の崩壊と機能停止という直接的な代償を払うことを示している。今後は、AI 画像生成モデルにおける著作権・肖像権のクリアランスプロセスが標準的な要件となるだろう。
編集コメント
技術的な革新性よりも、倫理的・法的リスクへの対応の遅れが機能停止を招いた象徴的な事例です。AI 開発者にとっては「オプトイン」の重要性を再確認させる重要な教訓となります。
Jay Peters は、テクノロジーやゲームなどを担当するシニア記者です。2019 年に The Verge に加入する前は Techmeme で約 2 年間勤務していました。
大きな反発を受けたことを受け、Meta は今週発表した機能を停止しました。この機能は、Instagram の公開アカウントをタグ付けするだけで、そのコンテンツに基づいて AI 画像を生成できるものでした。当初の仕様では、アカウント所有者の許可を得ることなく、誰でも公開されている Instagram のコンテンツを AI 創作に利用できてしまう仕組みでした。
Meta は、新しい Muse Image AI モデルに関する ブログ記事 の更新で次のように述べています。「先週、Meta AI で画像を生成する一つの方法として、参照したい公開 Instagram アカウントを@メンションする方法を発表しました。私たちの意図は、有用な創作ツールを提供し、ユーザーが自分の公開コンテンツがこの方法で参照されるかどうかをコントロールできるようにすることでした。しかし、この機能には期待に応えられなかったというフィードバックを多くいただいたため、現在は利用できなくなりました」。
Meta は機能を完全に停止する前に、設定画面 を確認してオプトアウト（利用拒否）できる仕組みは用意していましたが、それでも機能には大きな批判が殺到しました。
「これは明らかに、私たちが自分自身の肖像権を享受する権利を侵すだけでなく、#セックスストーカーや他の詐欺師にとって明白な道具にもなる！」と、全米性搾取センターの執行役員兼チーフストラテジーオフィサーであるヘイリー・マクナmara氏は金曜日にこう述べています。「リスクの高い設計を採用し、その上で個人に複雑な手続きを課してオプトアウトさせるのは許されない行為です。」
俳優組合（SAG）は、会員に対してこの機能の利用を拒否するよう推奨するとともに、具体的な手順も明記しました。
この話題や著者をフォローして、パーソナライズされたホームフィードで類似記事を表示したり、メール通知を受け取ったりできます。
- Jay Peters
原文を表示
Jay Peters
is a senior reporter covering technology, gaming, and more. He joined The Verge in 2019 after nearly two years at Techmeme.
Following significant backlash, Meta is turning off the feature it announced this week that let users generate AI images based on content from public Instagram accounts just by tagging them. The feature, as originally set up, meant that content from any public Instagram account could be used in AI creations without the account owner’s permission.
“Earlier this week, we announced that one way for people to generate images in Meta AI is by @-mentioning public Instagram accounts that they want to reference,” Meta says in an update to a blog post about its new Muse Image AI model. “Our intent was to provide a useful creative tool and to give people control over whether their public content could be referenced in this way. We’ve heard the feedback that this feature missed the mark, so it’s no longer available.”
Meta did let you opt out by digging through settings before turning off the feature entirely, but the feature still drew major criticism.
“Not only does this obviously erode our rights to our own likeness… but it is an obvious tool for #sextortion and other scammers!” Haley McNamara, executive director and chief strategy officer of the National Center on Sexual Exploitation, said earlier on Friday. “Pursuing high-risk design & then putting the onus on individuals to jump through hoops to opt out is unacceptable.”
The Screen Actors Guild recommended that its members opt out of the feature and spelled out instructions on how to do so.
Follow topics and authors from this story to see more like this in your personalized homepage feed and to receive email updates.
- Jay Peters
-
-
-
-
-
関連記事
今日のまとめ
AI日報で今日の重要ニュースをまとめ読み