サンフランシスコ市、Meta に AI 児童虐待広告の停止を命令

サンフランシスコ市弁護士は、メタ社に対し、AI 生成による児童性的虐待コンテンツを含む有料広告の掲載を「容認」するのをやめるよう停止命令書を送付し、同社のプラットフォームでこれらの広告が繰り返し表示された経緯について説明を求めました。

先週火曜日、WIRED はメタ社がこの数ヶ月間で 350 件以上の広告を表示していたと報じました。これらは未成年者の静止画像を短い動画クリップに変換するもので、その中には実在する人物（欧州の王族の一人を含む）も含まれていました。これらの動画では、彼らが性的行為を行っている様子が描かれています。広告をクリックすると、AI による画像・動画生成アプリへのダウンロードへ誘導されますが、その中には他人をデジタルで着脱させたり、同意のない性的イメージを作成したりできるものもあります。

Tech Transparency Project（TTP）の研究者が発見した広告には、複数回アップロードされた同一のものが含まれており、これらは欧州連合（EU）加盟国の 29,000 件以上のアカウントに届きました。Facebook、Instagram、Threads で表示された広告は、米国、オーストラリア、インドのアカウントも標的にしていました。

WIRED は 8 月初めに、AI 生成による児童性的虐待画像を含む広告 53 件のバッチについて最初に報じましたが（https://www.wired.com/story/meta-ran-ads-that-contained-ai-generated-child-sexual-abuse-imagery/）、その後の報告で Meta のプラットフォーム上で実行された広告の総数は 250 件を超えました。

サンフランシスコ市法務部長のデイビッド・チウ氏は WIRED への声明で、「Meta は、AI 生成による児童性的虐待広告という既知の問題に対処せず、むしろそれらから利益を得ている」と述べています。「これらの広告は子供たちにとって極めて深刻な害を及ぼすものです。Meta は児童搾取に対して『ゼロ・トレランス（許容なし）』を謳っていますが、こうした問題の規模と持続性を見ると、現在の取り組みはあまりにも不十分です。これは容認できず、Meta はもっと努力すべきです。」

「広告の配信前にすべての広告が審査・承認されたと主張しながら、その配信に対して支払いを受け取りながら、自社の広告システムをこのように利用させるべきではない」とサンフランシスコ市弁護士事務所は Meta の法務担当へ宛てた 4 ページの書簡で記しています。

この書簡では、Meta の広告ポリシーや安全対策システムの運用方法について多くの疑問が提起され、同社に対し法務部門、児童保護部門、広告部門の関係者が「速やかに協議」を行うよう求めています。チウ弁護士は、「これらの発見は、問題に初めて気づいた際に Meta が修正した孤立した失敗の反映ではないように思えるため、特に懸念される」と述べています。

Meta は「サンフランシスコ市内で広告が表示されたという証拠はない」とし、これは同市の法務担当者の管轄外であると主張しています。Meta の 広告ライブラリ は広告のアーカイブであり、米国で掲載された広告に関する一部のデータを含んでいますが、米国内のどの地域で広告が配信されたかという詳細な内訳は提供されていません。

Meta は以前、WIRED に対して、TTP の研究者が特定した広告の多くは報告前にすでに削除済みであり、すべてが同社のポリシー違反により現在も削除されていると説明していました。また、これらの広告を掲載したアカウントからのインプレッション数は「200 回未満」だったとしています。「nudify アプリや、実在するものも AI で生成されたものも含むあらゆる児童搾取には容赦しない」と、Meta のスポークスマンは以前述べています。同社によると、研究者が見つけた 300 を超える広告の総広告費は「5,000 ドル未満」でした。

市検察局が TTP の研究者が発見した多くの広告を精査したとされるこの書簡では、Meta にプラットフォーム上での広告掲載停止を求めると同時に、なぜこれらの広告が同社のモデレーションシステムをすり抜けることができたのかの理由説明、児童虐待・行方不明者センター（NCMEC）への通報およびエスカレーションプロセスの詳細、さらにコンテンツ作成者や再犯者に対する対応策についての具体的な報告を求めています。

人気記事

-

-

-

-

-

手紙では、同社が広告における児童性的虐待の疑いを検知する仕組みに「より広範なシステム上の問題」がある可能性が示唆され、同社にとって「重大な法的疑問」を提起していると指摘されています。サンフランシスコ市検察庁のチウ氏は手紙の中で、「私の事務所の目的は過去の失敗を特定することだけではありません。Meta が配布料を受け取って流通させる広告を通じて児童が性的搾取されないようシステムを整備し、明らかな児童性的搾取に気づいた際に法的義務を確実に果たすことを保証することが重要です」と述べています。

TTP の研究者らの調査結果によると、一部のケースでは、同機関から虐待的な広告に関する報告があったにもかかわらず、Meta は 1 週間以上も対応を行わず、その間にさらに数百人がその広告を目撃していました。また、TTP と WIRED が Meta の広告ライブラリーを検証したところ、一部削除された広告は当初、児童性的虐待コンテンツを含むものとしてマークされていなかったことが判明しています。「ここで文書化されている問題の規模、持続性、性質を踏まえると、Meta による個別の削除対応は全く不十分である」とチウ氏の手紙には記されており、同社に対し 28 日以内の回答を求めています。

| ヒントをお持ちですか？ |

| --- |

| Meta に関する情報を共有したいとお考えではありませんか？私たちはあなたの声を聞きたいと考えています。職場用の電話やコンピューターではなく、Signal で安全に記者（mattburgess.20）までご連絡ください。 |

メタのコミュニティ基準および広告ポリシーでは、児童性的搾取・虐待やわいせつな画像、成人向けの性的搾取、成人向けわいせつなコンテンツを許可していません。また、「nudify（裸体化）アプリ」のプロモーションも禁止されています。

同社の広告基準によれば、すべての広告は自動化されたシステム、場合によっては人の手による審査を通じてポリシーに照らしてレビューされます。過去には、nudify アプリに関連する広告が数十万件削除されました。

メタが「ヌディファイ」アプリ対策として、関連する香港企業への訴訟や他社との連携を進めているにもかかわらず、研究者らは依然として有害なアプリへ誘導し、性的行為や裸体を含む広告を数千件発見し続けています。WIRED が Tech Transparency Project（TTP）の調査結果を報じる過程で、メタのプラットフォーム上で現在運用されている数百件の「ヌディフィケーション」広告を確認しました。

TTP のディレクターであるケイティ・ポール氏は、メタがこの問題に「効果的に対応していない」と指摘し、児童性的虐待を含む広告が今週水曜日時点でもまだ掲載され続けていると述べています。「メタは児童性的虐待材料に対して厳格な姿勢を取っていると主張していますが、TTP が 9 月 8 日に報告書を公表して以降、TTP がメタに送った同じ子供たちを登場させた新しい広告がさらに投稿されています」とポール氏は話しています。同団体はこれらの広告をメタと NCMEC（米国児童性的虐待防止センター）へ通報し、一部は既に削除されたと指摘しました。メタ側は、新たな広告がまだ掲載されていることについて WIRED の質問に即座には回答していません。

「調査結果は明白です」とポール氏は付け加えます。「メタはこの問題に効果的に対応していないのです」