Meta、AI生成児童ポルノ広告を放置し削除に数日

メタは、Facebook や Instagram 上で AI 生成による児童性的虐待素材（CSAM）を含む広告の削除に数日を要しました。これらの広告には、実際の幼い子供たちの写真が使用されていました。その中には、欧州の王室の若きメンバーを撮影した報道写真や、10 代前半の少女でインフルエンサーと見なされている人物の Instagram プロフィールから無断転用された画像も含まれていました。

火曜日に発表された調査レポートによると、テック・トランスパレンシー・プロジェクト（TTP）は、今年メタが CSAM を含む 332 の広告を検出できなかったと報告しています。これらの広告の「圧倒的多数」は中国製の AI アプリを宣伝するものでした。また、多くの広告は「ヌーディファイアプリ」と呼ばれるものも宣伝しており、悪意のある行為者が AI を利用して子供たちの画像を容易にデジタル改変できるようになっています。

TTP は、「複数の CSAM 広告が、オンライン上に存在する実際の子供たちの写真と一致することを確認しました」。これらの広告は連邦の児童ポルノ法に違反している可能性が高く、司法省は AI による CSAM も従来の CSAM と同様に有害であると明確にしています。TTP の調査では、王室の若きメンバーの画像が「露骨な性行為を行う動画へとアニメーション化」されていたことが判明しました。また、別の広告では、14 歳の Instagram インフルエンサーの写真（「新しいスポーツクラブのユニフォームを見せる」姿）を、「オーラルセックスを行っている動画」に変換していました。さらに、TTP は、3 人目の被害者である「ピンク色のアウトレットウェアを着てポニーテールにした少女」がストックフォトでポーズをとっている画像が、成人男性に性的虐待される場面を描き、恐怖に満ちた表情を浮かべる動画へと変形させられていたと報告しています。

記事全文を読む

コメント