アメリカの危険で混乱したディープフェイク規制が施行される
米国で非合意の性的ディープフェイク対策法が施行されたが、専門家は被害者救済効果が限定的であり、むしろオンライン検閲を助長するリスクがあると警告している。
キーポイント
新法の施行と目的
ドナルド・トランプ前大統領が署名した「Take It Down Act」に基づき、ソーシャルメディア事業者に対し非合意の性的ディープフェイクや画像を迅速に削除する義務が法的に発効した。
実効性への懸念
専門家は、この規制が実際に被害者を救済する効果は限定的であり、技術的な回避手段が存在するため根本解決にならないと指摘している。
検閲リスクの警告
広範な削除義務が濫用されることで、正当な表現活動や他のコンテンツまで不必要に制限され、オンライン上の言論自由を損なう「最悪のシナリオ」が懸念されている。
影響分析・編集コメントを表示
影響分析
このニュースは、生成 AI がもたらす深刻な社会的害（ディープフェイク）に対して政府が法的介入を開始した重要な転換点を示しています。しかし、技術的な実効性と表現の自由とのバランスを欠いた規制が、逆に検閲ツールとして機能する可能性を示唆しており、今後の AI ガバナンスの在り方に対する慎重な議論を促す内容です。
編集コメント
技術的な対策が追いつかない現状において、法律による強制的な削除要請は即効性がある一方で、誤検知や過度な規制による副作用を招く可能性が高く、バランスの取れたアプローチが求められています。
性的ディープフェイクやその他の同意のない画像を速やかに削除することを求める法律が、現在完全に施行されています。しかし専門家は、この政策は被害者に対してほとんど役立たずであり、最悪の場合にはオンライン上の検閲を助長する恐れがあると警告しています。
昨年5月、ドナルド・トランプ大統領は、同意のない親密な画像（NCII）に対処する「Take It Down Act」に署名しました。この法律は直ちに、実写かAI生成のいずれであっても、NCII の配布を犯罪化しました。これはすでに多くの州で部分的に行われていることです。しかし、その名を冠した削除規定の方がより広範なものです。同法の成立から1年後となる2026年5月19日に発効し、オンラインプラットフォームに対し、NCII を48時間以内に削除しない場合、罰金に処すことを義務付けています。
連邦取引委員会（FTC）の委員長アンダーソン・ファーガソンは、期限を迎える前に十数社以上のテクノロジー企業に書簡を送付しました。FTC が提示したリストには、Amazon、Alphabet、Apple、Automattic、Bumble、Discord、Match Group、Meta、Microsoft、Pinterest、Reddit、SmugMug、Snapchat、TikTok、X が含まれています。同委員会はこれらのプラットフォームに対し、ユーザーが簡単に削除を請求できる手続きを提供し、問題のあるコンテンツおよび「既知の同一コピー」を 48 時間以内に削除するよう指示しました。法律の執行を担当するこの機関は、違反した場合に違反ごとに 53,000 ドルを超える民事罰則が科される可能性があることを企業に改めて警告しています。
Meta、Microsoft、Google、TikTok、Snap を含む主要プラットフォームは法案を支持し、コンプライアンス遵守が可能であると自信を示しました。Snap は昨年のブログ投稿で、「これは当社の継続的な取り組みと整合し、補完するもの」と述べていました。スポークスマンのモニク・ベラミー氏は『The Verge』に対し、安全性システムの進化を続けており、「不要なヌード画像や類似のイメージを事前に検知して対応するためのツールや技術への投資を含む」と語っています。
Meta の女性安全責任者である Cindy Southworth は、同社がプラットフォーム上で親密画像の乱用に対して「長年取り組んできた」と述べ、その削除や検出ツールの開発支援、およびルール違反を行う AI による「nudify」アプリの開発者に対する訴訟（suing AI "nudify" app developers）などを含むと説明しました。Southworth はさらに、同社のツールは nudifying への要求に応じないよう訓練されていると付け加えました。「私たちは、インターネット全体でのこの乱用に対処するための重要な一歩である『TAKE IT DOWN Act』を引き続き支持しており、すでに数ヶ月にわたり法令を遵守しています。」TikTok の米国広報担当者である Mahsau Cullinane は、同社が NCII（非同意の性的画像）に対してゼロ・トレランス政策を採用していると述べ、NCMEC や StopNCII.org との連携を指摘しました。同社は現在、フォームとアプリ内ツールを提供しており、報告が可能です。
性的に露骨な AI 画像の扱いにおいて極めて問題のある歴史を持つ X でさえ、この法律を支持している。同社は 2024 年にテイラー・スウィフトの 性的に露骨な AI ディープフェイク が拡散されることを容認したことで悪名高く、数週間後にはラッパーのドレイクと信じるユーザーが性的行為を行っている 動画 も登場した。より最近では、ユーザーたちは同社の統合 AI チャットボットである Grok に対して、同意なく（あるいは同意を得ずに）ユーザーの服を脱がせるよう要求している。『ニューヨーク・タイムズ』の 分析 によると、Grok はわずか 9 日間で女性の性的に露骨な画像を 少なくとも 180 万枚 も共有したことが判明したが、一部の推計ではさらに多い数値となっている。
大統領は 2025 年の教書演説 で皮肉っぽく「私はこの法案を自分自身のために使うつもりだ」と述べた。
しかし、この法律の削除条項は、言論の自由を支持する団体とオンライン虐待に反対する団体（犯罪化部分には概ね賛成していた人々を含む）の両方を不安にさせています。誠実に執行された場合でも、削除法は企業がリスクを減らすために非違反コンテンツまで過剰にモデレーションすることを促す可能性があります。トランプ政権下では、「Take It Down Act」は政治的敵対者に対する武器として利用される一方で、トランプに友好的なプラットフォームには免罪符を与えることにもなりかねません。大統領は 2025 年の教書演説 で「私はその法案を自分自身のために使うつもりだ」と冗談めかして述べ、「オンラインで私ほどひどく扱われる人はいないからだ」と付け加えました。当時の X の CEO、リンダ・ヤカリーノは 署名式典に出席 しており、その時点で彼女のオーナーであるイーロン・マスクを雇用していたトランプ政権下で、トランプ氏は彼女が「素晴らしい仕事をしている」と称賛しました。
トランプ氏の声明は「真実とは正反対のもの」だと、画像に基づく性的虐待に対抗する政策を提唱するサイバー市民権イニシアチブの会長であるメアリー・アン・フランクズ氏は語る。この声明により、同法が公平に執行されるかについて懐疑的になったと彼女は述べている。トランプ氏の教書演説における発言も同様だった。「それは奇妙な発言であり、最高レベルから『この法律は原則に基づいて使用されない』という発表だ。むしろ個人的な恨み晴らしのために使われるのだ」と彼女は言う。
フランクズ氏は、通常は新規制が言論の自由への負担になるとして抗議する主要なテックプラットフォームがこの法律を支持した理由について「疑わしい」と述べている。「私の懸念（そして間違っていてほしいと願っている）は、企業がこれに怒らない理由は、この法律が実際に自分たちに対して使われることがないと知っているからだ」と彼女は言う。それだけでも、この法律は非同意画像の被害者にとって単なる偽りの希望を提供するだけになる可能性がある。
「それは奇妙な発言であり、最高レベルから『この法律は原則に基づいて使用されない』という発表だ」
しかし、フランク氏はまた、この法律が政権にとって厄介な存在と見なされているプラットフォームに対して悪用される可能性にも懸念を示しています。例えば Wikipedia のような団体です。「最も悪い事態として起こり得るのは、この法律が最悪の行為を行う企業に対しては紙に描いた虎（実効性のないもの）に終わる一方で、実際には不人気なプラットフォームを罰し、取り締まり、言論を検閲するための手段として機能してしまうことだ」とフランク氏は述べています。その言論には LGBTQ+ の表現も含まれる可能性があり、特にトランスジェンダーの若者に対する 性別適合ケア（gender-affirming care）がすでに連邦取引委員会（FTC）によって標的にされている状況です。「私は、これが同意のある性的に露骨なコンテンツや、自身の性自認を探求している子供たち向けの教育資料、あるいは性的指向を探求している子供たち向けの教育資料に対するさらなる取り締まりの口実として悪用されることを非常に心配しています」とフランク氏は語ります。たとえ裁判所がこの行為が法律の範囲外であると判断したとしても、プラットフォームに対してどのようにコンテンツをモデレートすべきかという明確なメッセージを送ることになるでしょう。
電子フロンティア財団（EFF）Electronic Frontier Foundation (EFF)、カト研究所 Cato Institute、そしてパブリック・ナレッジ Public Knowledge を含む他の団体も、通知および削除条項が言論に重大な影響を及ぼす可能性があると警告しており、EFF はこれを「権限の濫用と検閲への道筋」と呼んでいます。
一方、法律は同意のデジタル違反と見なされる可能性のある事象をカバーしていないかもしれません。例えば、Grok の非合意に基づく性的イメージの中には、性的に露骨であるとしてカウントされないものもあるでしょう。Grok などの AI ツールが、所有者が刑事責任を負う可能性がある NCII（非合意に基づく性的画像）の「作成者」に該当するかどうかは不明であり、また画像が私的に生成された場合でも、削除要請の対象となるかどうかは必ずしも明確ではありません。制定から最初の1年間に司法省はそのように述べています、オハイオ州の男性が被害者を嫌がらせ目的で性的に露骨な AI ディープフェイクを制作した事件で1件の有罪判決において「Take It Down Act」の刑事規定を用いたと。削除要請の規定の影響はより即座に感じられるかもしれませんが、問題はこれらの結果がインターネットをより安全なものにするかどうかです。
この物語のトピックや著者をフォローして、パーソナライズされたホームページフィードで類似の記事をもっと見たり、メール更新を受け取ったりしてください。
- ローレン・ファイナー
-
-
-
原文を表示
A law requiring social networks to quickly remove sexual deepfakes and other nonconsensual imagery is now fully in force. But experts warn the policy could do little to help victims — and at worst could facilitate censorship online.
Last May, President Donald Trump signed the Take It Down Act, a law addressing nonconsensual intimate imagery (NCII). The law immediately criminalized distributing NCII, whether in the form of real or AI-generated material, something many states at least partially do already. But its namesake takedown provision is more sweeping. Taking effect a year after the law’s passage — on May 19th of 2026 — it requires online platforms to remove NCII within 48 hours or face fines.
Federal Trade Commission Chair Andrew Ferguson sent letters to over a dozen tech companies ahead of the deadline, a list the FTC said included Amazon, Alphabet, Apple, Automattic, Bumble, Discord, Match Group, Meta, Microsoft, Pinterest, Reddit, SmugMug, Snapchat, TikTok and X. It instructed the platforms to offer users an easy takedown request process and remove offending content within 48 hours, as well as any “known identical copies.” The agency, which is tasked with enforcing the law, reminded companies that violating it could result in civil penalties of more than $53,000 per violation.
Major platforms including Meta, Microsoft, Google, TikTok, and Snap supported the bill.pdf), and expressed confidence that they could comply. Snap said in a blog postlast year that it “aligns with and complements our ongoing efforts.” Spokesperson Monique Bellamy told *The Verge* that it’s continuing to “evolve” safety systems, “including investing in tools and technologies to proactively detect and take action on unwanted nudes and similar imagery.”
Meta head of women’s safety Cindy Southworth said the company had “long fought intimate image abuse on our platforms,” including by removing it, helping develop tools to catch it, and suing AI “nudify” app developers that break its rules. Southworth added that the company’s tools are trained not to comply with nudifying requests. “We continue to support the TAKE IT DOWN Act, an important step in addressing this abuse across the internet, and we’ve already been compliant for several months.” TikTok US spokesperson Mahsau Cullinane said the company has a zero-tolerance policy for NCII, and pointed to its partnerships with NCMEC and StopNCII.org; the company currently offers a form and in-app tools for reporting.
Even X, which has a highly checkered history with sexualized AI imagery, has supported the law. The company notoriously allowed sexually explicit AI deepfakes of Taylor Swift to spread in 2024, followed weeks later by a video users believed to be of the rapper Drake engaged in a sexual act. More recently, users called on its integrated AI chatbot Grok to undress users, often without their consent. *A New York Times* analysis found that in just nine days, Grok shared “at least 1.8 million sexualized images of women,” though some estimates were even higher.
The president quipped at his 2025 State of the Union that “I’m going to use that bill for myself”
But the law’s takedown provision has alarmed both free speech advocates and online abuse opponents — including people who largely supported its criminalization portion. Even when enforced in good faith, takedown laws can encourage companies to over-moderate non-offending content to reduce risk. Under the Trump administration, the Take It Down Act could also become a weapon against political enemies while giving Trump-friendly platforms a pass. The president quipped at his 2025 State of the Union that “I’m going to use that bill for myself,” because “nobody gets treated worse than I do online.” X’s then-CEO Linda Yaccarino attended the signing ceremony, where Trump — whose administration at that point employed its owner Elon Musk — praised her for “doing a great job.”
Trump’s statement was “the opposite of what is true,” says Mary Anne Franks, president of the Cyber Civil Rights Initiative, which advocates for policies to fight image-based sexual abuse. It left her skeptical that the law would be enforced fairly, as did Trump’s State of the Union comment. “That’s a weird thing to say, and it’s an announcement right from the highest level that this law is not going to be used in a principled way, but rather to settle personal scores,” she says.
Franks is “suspicious” about why major tech platforms, which typically protest new regulations as a burden on free speech, have endorsed this law. “My fears about this, and I hope I’m wrong, is that the reason why the companies aren’t mad about this is because they know it’s never actually going to be used against them,” she says. That alone could make the law provide little more than false hope for victims of NCII.
“It’s an announcement right from the highest level that this law is not going to be used in a principled way”
But Franks also worries the law could be wielded against platforms the administration views as a thorn in its side, such as Wikipedia. “I think what is the worst thing that can happen is, it turns out to be a paper tiger against the companies that are doing the worst and turns out to be a way to penalize and to actually truly go after unpopular platforms and to censor speech,” Franks says. That speech could include LGBTQ+ expression, especially as gender-affirming care for transgender youth is already being targeted by the FTC. “I’m very worried about that being used as a pretext to crack down even further on either consensually sexually explicit material, or specifically on educational materials for kids who are exploring their gender identity or exploring their sexual orientation,” Franks says. Even if a court decides that’s not within the scope of the law, it would send a clear message to platforms about how to moderate.
Other groups, including the Electronic Frontier Foundation (EFF), the Cato Institute, and Public Knowledge, have warned that the notice and removal provision could have significant consequences on speech, with the EFF calling it a recipe for “overreach and censorship.”
Meanwhile, the law may not even cover what might seem like cut-and-dried digital violations of consent. Some of Grok’s nonconsensual sexualized imagery, for instance, might not count as sexually explicit enough. It’s unclear whether AI tools like Grok count as “creators” of NCII whose owners could bear criminal liability, and if the images are produced privately, it’s not necessarily clear if they’re subject to the takedown provision, either.**In the first year of its enactment, the Justice Department said it used the Take It Down Act’s criminal provision in one conviction of an Ohio man who produced sexually explicit AI deepfakes to harass victims. The takedown provision’s impact could be felt more immediately — but the question is whether those results will make the internet safer.
Follow topics and authors** from this story to see more like this in your personalized homepage feed and to receive email updates.
- Lauren Feiner
-
-
-
-
関連記事
今日のまとめ
AI日報で今日の重要ニュースをまとめ読み