TikTok、AI 顔写真検出ツールをテスト
TikTok は、クリエイターが自身の許可なく生成された AI ディープフェイクを検出・報告できる新しいツールをテスト開始し、プラットフォーム上の偽造コンテンツ対策を強化している。
キーポイント
クリエイター主導の検出機能
TikTok は、ユーザーが自身の許可なく作成された AI ディープフェイクを検索・スキャンできる機能をテスト導入し、被害を受けたクリエイターが主体となって対応できるようにする。
プラットフォーム上の偽造コンテンツ対策
生成 AI の急速な普及に伴い、顔や声を無断で使用された動画が増加する中、TikTok が技術的な検知ツールを提供して信頼性の維持を図る動きである。
規制と倫理への対応
世界的に AI 生成コンテンツのラベリングや権利保護に関する規制が強化される中、TikTok が先行して実装する対策として注目されている。
重要な引用
Creators can have TikTok scan for unauthorized AI deepfakes.
影響分析・編集コメントを表示
影響分析
このニュースは、生成 AI がもたらす「顔や声の無断使用」という深刻な課題に対し、プラットフォーム側が技術的解決策を提供する方向へ舵を切ったことを示しています。クリエイターに検出権限を与えることで、従来のトップダウン型モデレーションから、被害者主体の対応体制へとパラダイムシフトを起こす可能性があります。今後は、このツールの精度や、誤検知による冤罪リスクが今後の展開の鍵となります。
編集コメント
生成 AI の普及により、個人の肖像権や人格権を侵害するディープフェイクが急増する中、プラットフォームが「検出ツール」を提供し、ユーザーに防御手段を与える姿勢は重要かつ前向きな一歩です。しかし、AI 技術の進化スピードに対して検知アルゴリズムが追いつけるか、また誤検知による表現の萎縮をどう防ぐかが今後の課題となります。
クリエイターは、許可されていない AI によるディープフェイクの検出を TikTok に依頼できるようになります。
Jay Peters
2026 年 7 月 18 日 午前 4:34（GMT+9）
イラスト：Nick Barclay / The Verge
テクノロジー、ゲームなどを担当するシニアレポートラーの Jay Peters。2019 年に The Verge に加入し、それまでは Techmeme で約 2 年間勤務していました。
TikTok は現在、AI による似顔絵（リkeness）を検出し、クリエイターが不正利用を報告できるオプトイン型のツールのテストを開始しました。この動きは、ソーシャルメディアコンサルタントの Matt Navarro 氏によって初めて報じられました。米国 TikTok の広報担当者である Zachary Kizer 氏は The Verge に対し、同ツールは現在「一部の」米国のクリエイターを対象に試験運用中だと明かしています。
YouTube も同様のツールの開発を進めており、最近ではすべての成人ユーザーに対して利用可能にする措置を講じています。
TikTok のテストプログラムに参加し、このツールを利用したいクリエイターは、まず Jumio という企業 を通じて本人確認を行う必要があります。リアルタイムの顔写真スキャンと ID 照合が必要になりますが、Kizer 氏によれば「TikTok は ID 文書を保存せず、顔情報は似顔絵の一致判定と、クリエイターの肖像権を無断で使用される可能性のある事象の特定にのみ利用する」とのことです。
本人確認が完了すると、TikTok のシステムがクリエイターの顔を模倣した AI 生成コンテンツを検索します。その後、クリエイターは TikTok が発見した内容を確認し、許可されていない投稿やアカウントを報告することも可能です。
画像：TikTok
この記事に関連するトピックや著者をフォローすれば、パーソナライズされたホームフィードで類似のニュースを見たり、メールでの更新通知を受け取ったりできます。
- Jay Peters
-
-
-
-
The Verge Daily
重要なニュースを毎日お届けする無料ダイジェスト。
メールアドレス（必須）
原文を表示
Creators can have TikTok scan for unauthorized AI deepfakes.
Creators can have TikTok scan for unauthorized AI deepfakes.
by Jay Peters
Jul 18, 2026, 4:34 AM GMT+9
Illustration by Nick Barclay / The Verge
Jay Peters
is a senior reporter covering technology, gaming, and more. He joined The Verge in 2019 after nearly two years at Techmeme.
TikTok is starting to test an opt-in tool that scans for AI likenesses and lets creators report them to the company, as spotted by social media consultant Matt Navarra. The tool is initially being tested with “some” US creators, TikTok US spokesperson Zachary Kizer tells *The Verge*. YouTube has been working on a similar tool and recently made it available to all adult users.
Creators who are part of TikTok’s test and want to use the tool will first have to verify their identity with a company called Jumio. You’ll have to do a real-time selfie scan and an ID check, but Kizer says that “TikTok does not retain ID documents, and facial information is used only for likeness matching and to help identify potential unauthorized uses of a creator’s likeness.”
After verification, TikTok’s system scans for AI-generated content potentially using a creator’s likeness. From there, a creator can review what TikTok found and potentially report unauthorized posts and accounts.
Image: TikTok
Follow topics and authors from this story to see more like this in your personalized homepage feed and to receive email updates.
- Jay Peters
-
-
-
-
-
The Verge Daily
A free daily digest of the news that matters most.
Email (required)
関連記事
今日のまとめ
AI日報で今日の重要ニュースをまとめ読み