Meta、AI生成児童ポルノを含む広告を9ヶ月間配信
本文の状態
日本語全文を表示中
詳細モードで約5分の本文を読めます。
同じ出来事の情報源
この情報源を基点に整理
WIRED AI
Tech Transparency Project の調査により、Meta が過去9ヶ月間にわたり生成 AI を利用した児童性的虐待画像を含む広告を審査・承認し、米国や欧州で配信していた事実が明らかになった。
AI深層分析を開く2026年8月6日 02:12
AI深層分析
キーポイント
AI 生成コンテンツの悪用と広告承認
Meta の広告ライブラリ調査により、過去9ヶ月間にわたり AI で生成された児童性的虐待画像を含む数十件の広告が、同社による審査を経て承認され、Facebook や Instagram などで配信されていたことが判明した。
独立系団体の発見と外部リンク
独立監視団体 Tech Transparency Project (TTP) の研究者が発見した広告には、nudify（着衣除去）アプリや undressing アプリへのリンクが含まれており、これらは未成年者を含む性的に示唆的な文脈で利用されていた。
Meta による公式対応とポリシー違反
TTP の指摘を受け、Meta は児童性的虐待・搾取および成人向け性的誘導やヌードに関するコミュニティ基準に違反したとして、該当する広告のすべてを即時削除した。
広告主による意図的な露出
TTP のディレクターである Katie Paul は、これらの広告が画像を隠蔽しようとする努力を一切行っておらず、Meta が広告料金を徴収する間も何の干渉もなく配信され続けたと指摘している。
AI生成児童ポルノ広告の検出と拡散
研究者が発見した広告は数ヶ月にわたりMetaの広告ライブラリから検出されずに存在し、少なくとも1件は欧州で2,563件のアカウントに到達していた。
重要な引用
"It's important to point out that this isn't content posted by third parties on Facebook or Instagram, these are ads that were reviewed, approved, and allowed to run by Meta, never encountering interference while the company collected the ad dollars."
"These ads made no effort to mask the images or hide what they were promoting."
"Sexual exploitation is horrific, and we work aggressively to keep it off our platform."
"From removing over 36 million pieces of child sexual exploitation content last year to taking legal action against nudify app developers, we will continue to relentlessly fight this abuse."
編集コメントを表示
編集コメント
生成 AI の技術的進歩が犯罪に悪用されるリスクが、プラットフォームの広告審査システムという形で顕在化した事例である。企業は単なるコンテンツ削除だけでなく、AI 生成コンテンツの検知と広告承認プロセスそのものの再構築を迫られている。
Source Article
元記事を日本語で読む
本文に関係しない購読案内、埋め込み通知、サイト内プロモーションは除いています。
編集者注：この記事には児童性的虐待を描いた画像の記述が含まれています。読者の判断を強く推奨します。
過去9か月の間、マーク・ザッカーバーグ率いるMetaは、AIによって生成された児童性的虐待材料（CSAM）や、未成年者が写り込む性的に示唆的な文章と組み合わせた広告を数十本も配信していました。WIREDが入手した広告の詳細によると、これらの広告は米国、英国、そして欧州の十数か国に住む人々を対象としていました。
Tech Transparency Project（TTP）の研究チームは最近、Metaの広告ライブラリ内で、虐待的なコンテンツを含む50件以上の画像および動画広告を発見しました。掲載情報には、一部の広告が「nudify」や「undressing apps」と呼ばれるアプリへリンクしていることが示されています。Metaの広告ライブラリは同社のプラットフォームに表示された広告をカタログ化する透明性ツールですが、そこではこれらの広告がFacebook、Instagram、Messenger、および/またはThreads上で配信されていたことが確認できます。今回の発見は、Metaのプラットフォーム上で児童性的虐待材料へのリンクを含む有料広告が見つかった、ここ数週間のうち2回目となります。
「これらの広告は、画像を隠そうとしたり、何を宣伝しているかを伏せようとする努力すらしていませんでした」と、独立した監視団体 TTP のディレクターであるケイティ・ポール氏は WIRED に対して語っています。「重要なのは、これは Facebook や Instagram で第三者が投稿したコンテンツではないということです。Meta が広告料金を徴収する間も一切の干渉を受けず、審査と承認を経て掲載を許可された広告なのです。」
研究者が発見したこれらの広告は、昨年 11 月から 8 月初めにかけて公開されていました。Meta の広告透明性ライブラリのデータによると、これらは数日間にわたって配信されることが多く、中には男性のみを対象としたものもありました。現在は Meta のポリシー違反（児童性的虐待・搾取素材、および成人向けの性的誘導やヌード）により削除されています。
TTP の研究者によれば、ある動画広告は、床に座っている子供のサムネイル画像を使用し、その上に「生成 AI で深層の幻想を実現 [*原文のまま*]。表示されているもの以上の世界があります。あなたの想像力をお使いください」というテキストを表示していました。この広告をクリックすると、性的行為に関わる成人の映像クリップが再生され、その後、サムネイルから切り出された子供の顔を性的行為に合成した映像が表示されるのです。
研究者らが指摘する別の広告には、性的な姿勢で脚を広げて横たわる少女の画像に、「もっと見せます」というテキストが添えられていました。
調査時、これらの広告の多くはユーザーに対して積極的に表示されていませんでしたが、メタの広告ライブラリでは数ヶ月にわたり検出されずに存在し続けていました。メタのデータによると多くの広告はごく少数のアカウントにしか届いていないものの、少なくとも1件はフランス、ドイツ、アイルランド、イタリア、オランダ、スペイン、スウェーデン、イギリスを含む欧州で2,563件のアカウントに到達しました。メタの広告ライブラリデータベースには米国やすべての国における広告のパフォーマンスに関する詳細が含まれていないため、実際のリーチ数はこれ以上である可能性があります。
ポール氏によると、TTPは先週、メタ上で「nudify」アプリ関連の広告を調査し続けていた過程で、これらの広告を発見しました。これは同組織が中国の広告パートナーによる投稿について報告書を公表した後でした。ポール氏は、この発見を直ちに児童性的虐待資料のオンライン通報窓口であるNational Center for Missing and Exploited Children（NCMEC）のサイバーティップラインへ報告したと述べています。NCMECの広報担当者は、受け取った報告についてはコメントしない方針です。
WIREDがMetaに取材を申し入れた後、同社は広告ライブラリから該当する広告を削除した。「性的搾取は恐ろしい行為であり、当社はプラットフォーム上での発生を防ぐために積極的に取り組んでいます」とMetaの広報担当者は述べています。「今回の広告の多くは到達範囲が限定的で、WIREDが報道する前に既に無効化されていたものも多数あります。また、これらの広告は、アップロード時に違反する広告を検知・ブロックするために最近導入した新しいAI技術よりも以前に作成されたものです。当社は検知システムの改善を継続しており、昨年は児童性的搾取コンテンツ3,600万件以上を削除し、nudifyアプリの開発者に対して法的措置も講じました。今後もこうした悪質行為との戦いを徹底して続けていきます。」
原文を表示
*Editor’s note: This article contains descriptions of imagery depicting child sexual abuse. Reader discretion is strongly advised.*
Over the last nine months, Mark Zuckerberg’s Meta has run dozens of paid ads that include explicit AI-generated child sexual abuse material (CSAM) and images of minors alongside sexually suggestive statements, according to details of the ads shared with WIRED. The ads, which in some cases reached several thousand accounts, were targeted at people living in the United States, United Kingdom, and more than a dozen European countries.
More than 50 image and video ads containing abusive content were recently discovered in Meta’s ad library by researchers at the Tech Transparency Project (TTP), with the listings showing that some ads linked out to so-called nudify or undressing apps. Meta’s ad library—a transparency tool that catalogues ads displayed on the company’s platforms—shows the ads running across Facebook, Instagram, Messenger, and/or Threads. The findings are the second time in recent weeks that paid ads linked to child sexual abuse material have been found on Meta’s platforms.
“These ads made no effort to mask the images or hide what they were promoting,” Katie Paul, the director of the TTP, an independent watchdog group, tells WIRED. “It’s important to point out that this isn’t content posted by third parties on Facebook or Instagram, these are ads that were reviewed, approved, and allowed to run by Meta, never encountering interference while the company collected the ad dollars.”
The ads discovered by the researchers—which have now been removed by Meta for violating its policies on child sexual abuse and exploitation material, and adult sexual solicitation and nudity—were all published between November last year and the start of August. The ads, according to data in Meta’s ad transparency library, often ran over a period of several days and some only targeted men.
One video ad, the TTP researchers say, used a thumbnail image of a child sitting on the floor with text appearing on top of it saying: “Realizing Deep Fantasies with Generation AI [*sic*]. There is so much more than what is shown, use your imagination.” The researchers say that when the ad was clicked, it played video clips of adults involved in sexual acts and then added the child’s face from the thumbnail to a sex act.
Another ad the researchers say had been repeatedly posted showed an image of a young girl laying back with her legs spread in a sexual position with text above it saying: “I can show you more.”
Most of the ads were not actively being shown to users when researchers found them, but they continued to be available, apparently undetected, in Meta’s ad library for months. Although many of the ads, according to Meta’s data, only “reached” a handful of accounts, at least one reached 2,563 accounts in Europe—including in France, Germany, Ireland, Italy, the Netherlands, Spain, Sweden, and the United Kingdom. Meta’s ad library database does not include details about ad performance in the US or all countries, so the overall reach may be higher.
Paul says TTP first discovered the ads last week as its researchers continued to investigate nudify app ads on Meta, after publishing a report about a Chinese advertising partner posting them. Paul says the organization immediately reported the findings to National Center for Missing and Exploited Children’s CyberTipline, which allows people to report online child sexual abuse material. A NCMEC spokesperson says it does not comment on reports it receives.
After WIRED reached out to Meta, the company removed the ads from its advertising library. “Sexual exploitation is horrific, and we work aggressively to keep it off our platform,” a Meta spokesperson says. “The majority of these ads had minimal reach and many were disabled before WIRED shared them. Many of these ads also predate new AI technology we launched recently to better detect and block violating ads at upload—and we’re constantly improving these systems. From removing over 36 million pieces of child sexual exploitation content last year to taking legal action against nudify app developers, we will continue to relentlessly fight this abuse.”
今日のまとめ
AIデイリーブリーフで今日の重要ニュースをまとめ読み