Meta、女性政治家の深層偽造動画生成アプリ広告を掲載
本文の状態
日本語全文を表示中
詳細モードで約2分の本文を読めます。
同じ出来事の情報源
この情報源を基点に整理
Ars Technica AI
Meta は性的コンテンツ禁止ポリシーに反し、女性政治家のディープフェイク生成を促すアプリ「Kromix」の広告を配信したため、プラットフォームのガバナンスと倫理基準に対する重大な懸念が生じている。
AI深層分析を開く2026年8月20日 01:31
AI深層分析
キーポイント
ポリシー違反による広告配信
Meta は性的コンテンツ禁止ポリシーに反し、女性政治家のディープフェイク生成を促すアプリ「Kromix」の広告をプラットフォーム上で配信した。
過激な機能と表現内容
同アプリは「寝室でのレイプ」や「ディズニー愛」といったシナリオでの利用を誘導し、広告内では女性政治家に似せた人物がポルノ映像に切り替わる演出を行った。
プラットフォーム側の対応遅延
WIRED の取材に対し、アプリの連絡先は回答せず、Apple App Store からの削除要請も記事執筆時点で完了していない状況である。
重要な引用
"the AI that men actually use"
"What if she moved?"
"all the characters are real people"
編集コメントを表示
編集コメント
AI 技術の悪用事例がプラットフォームの広告審査をすり抜けるケースは、技術の進歩に対するガバナンスの遅れを示唆している。今回の件は、単なるバグではなく意図的な機能提供である点が特に深刻であり、企業側の責任体制が問われる。
Source Article
元記事を日本語で読む
本文に関係しない購読案内、埋め込み通知、サイト内プロモーションは除いています。
メタプラットフォーム社は、性的なコンテンツを禁止する自社のポリシーに反しながらも、最近、女性アメリカ政治家のディープフェイク動画を作成することをユーザーに促すような AI 成人向け生成ツールの広告を出稿しました。これは、同意のない親密な画像を生成するツールの広告を自社プラットフォームから排除しようとするメタの取り組みが相次いで失敗している最新事例です。
「Kromix」と呼ばれるこのツールは、「AI イメージスタイラー」を自称しています。WIRED が視聴した動画広告の一つでは、ナレーションが「制限なし」「すべてのキャラクターは実在する人物だ」「実際に男性が使っている AI だ」として、このツールのプロモーションを行っています。ある広告では、著名な女性アメリカ政治家にそっくりの女性が米国旗と大統領旗の前に映し出され、「もし彼女が動いたら？」というキャプションが表示されます。その後、女性はウィンクし、同じ顔を持つ女性がポルノ動画でパフォーマンスを行うシーンへと切り替わります。
コメント依頼に応じる前に Apple App Store に掲載されていた Kromix アプリは、有料ユーザーに写真のアップロードを促しており、「寝室でのレイプ」や「ディズニーの恋愛」といったシナリオで使用できることを示唆しています。アプリ内の動画には、スパイダーマンのコスチュームを着た女性の AI 生成ポルノ映像も含まれています。アプリ内に記載された連絡先へコメント依頼を送りましたが、回答はありませんでした。
記事全文を読む
コメント
原文を表示
Meta platforms recently ran ads for an AI porn-generation tool that seemingly encouraged users to create deepfaked videos resembling female US politicians, despite the company’s policies against ads containing sexual material. It’s the latest in a series of failures by Meta to keep advertisements for tools that produce nonconsensual intimate imagery off its platforms.
The tool, which is called Kromix, bills itself as an “AI image styler.” A voice-over for one of the video advertisements, viewed by WIRED, promotes the tool as having “no restrictions,” saying “all the characters are real people” and describing it as “the AI that men actually use.” In one ad, a woman closely resembling a prominent female US politician is seen in front of a US flag and the flag of the president of the US above the caption “What if she moved?” She then winks, before the ad cuts to a scene of a woman with the same face performing in a pornographic video.
The Kromix app, which was hosted by Apple’s App Store prior to a request for comment from WIRED, invites paid users to upload photos so that it can use them in scenarios including “bedroom rape” and “Disney love.” Videos on the app also feature AI-generated pornographic videos of women wearing Spider-Man costumes. Requests for comment sent to a contact listed in the app went unanswered.
Read full article
Comments
関連記事
今日のまとめ
AIデイリーブリーフで今日の重要ニュースをまとめ読み