メタ、ユーザーが公的アカウントの AI ディープフェイクを作成できる Instagram 機能を停止

Jay Peters は、テクノロジーやゲームなどを担当するシニア記者です。2019 年に The Verge に加入する前は Techmeme で約 2 年間勤務していました。

大きな反発を受けたことを受け、Meta は今週発表した機能を停止しました。この機能は、Instagram の公開アカウントをタグ付けするだけで、そのコンテンツに基づいて AI 画像を生成できるものでした。当初の仕様では、アカウント所有者の許可を得ることなく、誰でも公開されている Instagram のコンテンツを AI 創作に利用できてしまう仕組みでした。

Meta は、新しい Muse Image AI モデルに関する ブログ記事 の更新で次のように述べています。「先週、Meta AI で画像を生成する一つの方法として、参照したい公開 Instagram アカウントを@メンションする方法を発表しました。私たちの意図は、有用な創作ツールを提供し、ユーザーが自分の公開コンテンツがこの方法で参照されるかどうかをコントロールできるようにすることでした。しかし、この機能には期待に応えられなかったというフィードバックを多くいただいたため、現在は利用できなくなりました」。

Meta は機能を完全に停止する前に、設定画面 を確認してオプトアウト（利用拒否）できる仕組みは用意していましたが、それでも機能には大きな批判が殺到しました。

「これは明らかに、私たちが自分自身の肖像権を享受する権利を侵すだけでなく、#セックスストーカーや他の詐欺師にとって明白な道具にもなる！」と、全米性搾取センターの執行役員兼チーフストラテジーオフィサーであるヘイリー・マクナmara氏は金曜日にこう述べています。「リスクの高い設計を採用し、その上で個人に複雑な手続きを課してオプトアウトさせるのは許されない行為です。」

俳優組合（SAG）は、会員に対してこの機能の利用を拒否するよう推奨するとともに、具体的な手順も明記しました。

4件のコメント