サンフランシスコ、AI 着脱アプリ削除を命じる
サンフランシスコの検察当局が、実写人物を性的画像に変換する「ヌディフィケーション」アプリの配信停止を要求し、プラットフォーム事業者に対してカリフォルニア州法違反の警告を発した。
キーポイント
法的措置の実施
サンフランシスコ検事総長デビッド・チウ氏が、Apple と Google の両社に対し、13 の「ヌディフィケーション」アプリの即時削除を命じる停止命令書（cease-and-desist letters）を送付した。
有害な AI ツールの実態
これらのアプリは、既存の写真から衣服を取り除いたり、人物の顔を別の裸体とすり替えたりする機能を有し、悪意ある行為者が被害者を性的に描くことを容易にするツールとして機能している。
カリフォルニア州法との抵触
チウ氏は、深層偽造（deepfake）ポルノグラフィーの作成を支援するサービスを禁止するカリフォルニア州法に違反しており、アプリストア側が法的責任を負う可能性があると警告している。
重要な引用
demanding that Apple and Google remove 13 so-called nudification apps from their app stores
transform ordinary photos of real people into explicit images
California's laws that prohibit supporting services that create deepfake pornography
影響分析・編集コメントを表示
影響分析
このニュースは、生成 AI の悪用に対する規制の潮流が、単なる自主規制や業界ガイドラインから、具体的な州法に基づく強制的なプラットフォーム責任へと移行したことを示す重要な転換点です。特に「ヌディフィケーション」という明確な危害を定義し、アプリストア運営者を「支援者」として処罰対象とした点は、今後の AI 倫理と法執行のあり方に大きな影響を与えるでしょう。
編集コメント
サンフランシスコの検事総長が直接プラットフォーム運営会社を名指しして法的措置に踏み切った点は、AI 規制の実効性を高める上で極めて重要な前例となります。技術の進化速度に対し、法整備と執行が追いつき始めている現実を示す事例です。
今週、サンフランシスコの検事総長であるデイヴィッド・チウ氏が、アップルとグーグルに対し、13 のいわゆる「ヌディファイ（裸体化）アプリ」を App Store から削除するよう停止命令書を送付した。これは Wired が報じた内容だ。
ヌディファイアプリを使えば、一般人の普通の写真を容易に性的な画像へと変換できてしまう。こうした有害な AI ツールは、悪意のある利用者が服を着た人物から衣服を除去したり、顔の特徴を変えたり、性的なポーズを取らせたり、被害者の顔を他人の裸体とすり替えたりすることを可能にする。
チウ氏の書簡では、これらのアプリストアが「ディープフェイクポルノを作成するサービスを提供することを禁止したカリフォルニア州法」に違反していると警告している。これも Wired の報道によるもの。
記事全文を読む
コメント
原文を表示
This week, San Francisco’s attorney general, David Chiu, sent cease-and-desist letters, demanding that Apple and Google remove 13 so-called nudification apps from their app stores, Wired reported.
Nudification apps can make it trivially easy to transform ordinary photos of real people into explicit images. The harmful AI tools allow bad actors to remove clothing, change a person’s features, place them in sexualized positions, and swap victims’ faces onto other people’s naked bodies.
Chiu's letter warned that app stores were violating "California’s laws that prohibit supporting services that create deepfake pornography," Wired reported.
Read full article
Comments
関連記事
今日のまとめ
AI日報で今日の重要ニュースをまとめ読み