テイラー・スウィフトのディープフェイクがTikTok上で詐欺を助長
本文の状態
日本語全文を表示中
詳細モードで約2分の本文を読めます。
同じ出来事の情報源
この情報源を基点に整理
The Verge AI
認証企業Copyleaksによると、詐欺師たちはAI生成動画でテイラー・スウィフトやリハナらを偽装し、赤い絨毯やトークショーなどの設定で報酬プログラムを宣伝する悪質広告をTikTokに投稿している。
Continue in AI NEW LAB
このニュースを、実務の判断につなげる
AI NEW LABで、試したことや先に確認したい条件を共有できます。まずはログインなしで読めます。
AI NEW LABで論点を見るSource Article
元記事を日本語で読む
本文に関係しない購読案内、埋め込み通知、サイト内プロモーションは除いています。
認証企業 Copyleaks によると、詐欺師たちは Taylor Swift や Rihanna といった有名人の AI 生成動画を用いて、TikTok で怪しいサービスを宣伝しているそうです。
これらの広告は通常、赤い絨毯やポッドキャスト、トークショーなどのインタビュー形式で有名人が映し出されており、多くの場合、実際の映像を AI を用いて改変したものです。同社は このように述べています。多くは、TikTok のコンテンツを見てフィードバックを与えることで報酬を得られると謳うリワードプログラムを宣伝しています。一部の広告には TikTok の公式ブランドロゴが表示されていますが、ユーザーは個人情報を求める第三者のサービスにリダイレクトされます。
ある広告では、Taylor Swift のリアルな AI アバターが「TikTok Pay」という機能に登録するようユーザーに促しています。別の広告では、偽物の Rihanna が「単にコンテンツを見て意見を述べるだけです」と言っています。
これは、ソーシャルプラットフォームが説得力のあるディープフェイクの急増に対応しきれず、ユーザーにとって厄介な日常的な問題となっている現状を示すもう一つの例です。TikTok はここだけで孤立しているわけではありません。報告によると、Meta のプラットフォーム（Instagram や Facebook など）のユーザーは 1 日に数十億もの詐欺広告を目にしている [1] とされ、同社の監視ボードも「ディープフェイクの問題を抱えている」と[2] 認めています。YouTube もまた、有名人を装った詐欺広告への対抗策に「[3] 大規模な投資」を行っているとしています。
有名人側も新たな反撃手段を探しています：先週スウィフトは、AI コピーキャットから自身を守るため、自身の音声の断片に関する新しい商標出願 [4] を行いました。
この記事のトピックや著者をフォローして、パーソナライズされたホームページフィードで類似の記事をもっと見たり、メール更新を受け取ったりしてください。
- Robert Hart
-
原文を表示
Robert Hart
is a London-based reporter at *The Verge* covering all things AI and a Senior Tarbell Fellow. Previously, he wrote about health, science and tech for *Forbes*.
Scammers are using AI-generated videos of celebrities including Taylor Swift and Rihanna to promote shady services on TikTok, according to authentication company Copyleaks.
The ads typically show celebrities in interview settings, such as red carpets, podcasts, or talk shows, and often manipulate real footage with AI, the company said. Many promote rewards programs claiming users can earn money by watching TikTok content and giving feedback. TikTok’s official branding appears in some of the ads, though users are redirected to third-party services that ask for personal information.
In one ad, a realistic AI avatar of Swift urges users to sign up to a feature called TikTok Pay. In another, a fake Rihanna says “you literally just watch content and give your opinion.”
It’s another example of how social platforms are struggling to keep up with a surge of convincing deepfakes, which are becoming a messy, everyday problem for users. TikTok is far from alone here. Reports suggest users of Meta’s platforms including Instagram and Facebook see billions of scam ads a day, and the company’s own oversight board has acknowledged it has a deepfake problem. YouTube also says it is “investing heavily” in combating celebrity scam ads.
Celebrities are also searching for new ways to fight back: last week Swift filed new trademark applications for clips of her voice in an attempt to protect herself from AI copycats.
Follow topics and authors from this story to see more like this in your personalized homepage feed and to receive email updates.
- Robert Hart
-
-
関連記事
今日のまとめ
AIデイリーブリーフで今日の重要ニュースをまとめ読み