テイラー・スウィフトのディープフェイクがTikTok上で詐欺を助長
認証企業 Copyleaks の報告によると、詐欺師が Taylor Swift や Rihanna などの有名人の AI 生成ディープフェイク動画を用いて TikTok で不正なサービスや報酬プログラムを宣伝しており、プラットフォーム上のセキュリティリスクと社会的影響が深刻化している。
キーポイント
有名人を標的とした詐欺の急増
Copyleaks の調査により、Taylor Swift や Rihanna などの著名人の顔や声を模倣した AI 生成動画が TikTok で増加しており、これが詐欺広告の主要な手段となっている。
文脈を歪めた動画手法
詐欺グループは赤い絨毯イベントやポッドキャストなど、信頼性の高いインタビュー設定の映像に AI を適用し、有名人が実際には行っていない発言や推薦を行わせている。
報酬プログラムを装った不正
これらの動画は主にユーザーに対して報酬プログラムへの参加を促すものであり、個人情報窃取や金銭的被害をもたらすリスクが高い。
影響分析・編集コメントを表示
影響分析
このニュースは、生成 AI の悪用が単なるフェイクニュースの拡散から、直接的な金銭的被害をもたらす高度な詐欺へと進化していることを示唆しています。特に TikTok のような短動画プラットフォームにおいて、有名人の信頼性を悪用した攻撃が増加することは、ユーザー保護とプラットフォーム運営側の対策強化を急務とする重大な警鐘です。
編集コメント
有名人の肖像権侵害だけでなく、実害を伴う詐欺ツールとしての AI 利用が現実化しており、プラットフォーム側の検知技術とユーザーのリテラシー向上の両面からの対策が急務です。
ロバート・ハート
は、AI とその関連事項全般を取材するロンドン拠点の『The Verge』記者であり、シニア・タッベルフェローでもあります。以前は、『Forbes』で健康、科学、技術に関する記事を書いていました。
認証企業 Copyleaks によると、詐欺師たちは Taylor Swift や Rihanna といった有名人の AI 生成動画を用いて、TikTok で怪しいサービスを宣伝しているそうです。
これらの広告は通常、赤い絨毯やポッドキャスト、トークショーなどのインタビュー形式で有名人が映し出されており、多くの場合、実際の映像を AI を用いて改変したものです。同社は このように述べています。多くは、TikTok のコンテンツを見てフィードバックを与えることで報酬を得られると謳うリワードプログラムを宣伝しています。一部の広告には TikTok の公式ブランドロゴが表示されていますが、ユーザーは個人情報を求める第三者のサービスにリダイレクトされます。
ある広告では、Taylor Swift のリアルな AI アバターが「TikTok Pay」という機能に登録するようユーザーに促しています。別の広告では、偽物の Rihanna が「単にコンテンツを見て意見を述べるだけです」と言っています。
これは、ソーシャルプラットフォームが説得力のあるディープフェイクの急増に対応しきれず、ユーザーにとって厄介な日常的な問題となっている現状を示すもう一つの例です。TikTok はここだけで孤立しているわけではありません。報告によると、Meta のプラットフォーム（Instagram や Facebook など）のユーザーは 1 日に数十億もの詐欺広告を目にしている [1] とされ、同社の監視ボードも「ディープフェイクの問題を抱えている」と[2] 認めています。YouTube もまた、有名人を装った詐欺広告への対抗策に「[3] 大規模な投資」を行っているとしています。
有名人側も新たな反撃手段を探しています：先週スウィフトは、AI コピーキャットから自身を守るため、自身の音声の断片に関する新しい商標出願 [4] を行いました。
この記事のトピックや著者をフォローして、パーソナライズされたホームページフィードで類似の記事をもっと見たり、メール更新を受け取ったりしてください。
- Robert Hart
-
原文を表示
Robert Hart
is a London-based reporter at *The Verge* covering all things AI and a Senior Tarbell Fellow. Previously, he wrote about health, science and tech for *Forbes*.
Scammers are using AI-generated videos of celebrities including Taylor Swift and Rihanna to promote shady services on TikTok, according to authentication company Copyleaks.
The ads typically show celebrities in interview settings, such as red carpets, podcasts, or talk shows, and often manipulate real footage with AI, the company said. Many promote rewards programs claiming users can earn money by watching TikTok content and giving feedback. TikTok’s official branding appears in some of the ads, though users are redirected to third-party services that ask for personal information.
In one ad, a realistic AI avatar of Swift urges users to sign up to a feature called TikTok Pay. In another, a fake Rihanna says “you literally just watch content and give your opinion.”
It’s another example of how social platforms are struggling to keep up with a surge of convincing deepfakes, which are becoming a messy, everyday problem for users. TikTok is far from alone here. Reports suggest users of Meta’s platforms including Instagram and Facebook see billions of scam ads a day, and the company’s own oversight board has acknowledged it has a deepfake problem. YouTube also says it is “investing heavily” in combating celebrity scam ads.
Celebrities are also searching for new ways to fight back: last week Swift filed new trademark applications for clips of her voice in an attempt to protect herself from AI copycats.
Follow topics and authors from this story to see more like this in your personalized homepage feed and to receive email updates.
- Robert Hart
-
-
関連記事
今日のまとめ
AI日報で今日の重要ニュースをまとめ読み