ハッカーがメタ AI サポートチャットボットを騙して著名人の Instagram アカウントを窃取
ハッカーが VPN を使用して位置情報を偽装し、Meta の AI サポートチャットボットに対するプロンプトインジェクション攻撃を成功させることで、著名人の Instagram アカウントを乗っ取る脆弱性が明らかになった。
キーポイント
AI チャットボットの悪用手法
ハッカーは VPN でターゲットの地域に位置を偽装し、パスワードリセットプロセス中に AI サポートボットに対してメールアドレスの変更を指示する単純なプロンプトインジェクション攻撃を行った。
高額なアカウントの横取りと転売
この脆弱性を突いて数百ドルから数十万ドル相当の価値ある Instagram アカウントを乗っ取り、グレーマーケットで売却する事件が相次いだ。
重要な公的アカウントへの影響
バラク・オバマ元大統領のホワイトハウス公式アカウントや宇宙軍最高軍曹のアカウントも一時的に乗っ取られ、親イラン的な画像やメッセージが投稿される事態となった。
緊急パッチ適用と現状
この「驚くほど容易な」脆弱性が 5 月 29 日に緊急パッチで修正されるまで、Telegram グループ内で攻撃手法の動画が共有されながら悪用が続いていた。
影響分析・編集コメントを表示
影響分析
この事件は、AI チャットボットの自動化プロセスにおける認証・承認フローの根本的な欠陥を露呈させ、企業側のセキュリティ対策に大きな警鐘を鳴らしています。特に、位置情報やコンテキスト情報を悪用したプロンプトインジェクション攻撃が実害をもたらす具体例として、業界全体で AI セキュリティの再評価を迫る重要なケーススタディとなります。
編集コメント
AI の利便性を高めるサポート機能が、逆にセキュリティの抜け穴として悪用されるという皮肉な事例であり、生成 AI の実装における「信頼された文脈」の検証が極めて重要であることを示唆しています。
Meta の AI サポートチャットボットは、著名な Instagram アカウントを盗んで転売しようとするハッカーにとって例外的に有用であることが判明した。ハッカーたちは単に VPN を使用して実際の所在地を隠蔽しながら、アカウントに関連付けられた電子メールアドレスの変更をボットに要求するだけでよかった。
404 Media によると、「驚くほど容易な」この脆弱性を示す動画は、ハッカーやセキュリティ研究者向けの Telegram グループ内で流通している。この脆弱性を利用することで、Meta が 5 月 29 日に緊急パッチを適用する前に、ハッカーたちは価値ある Instagram アカウント（グレイマーケットで数十万ドル相当）を乗っ取り転売することが可能だった。また、バーラク・オバマ元大統領のホワイトハウス公式アカウントや宇宙軍の最高曹長アカウントも、一時的に侵害された期間中に親イラン的な画像やメッセージを投稿していた。
404 Media によると、攻撃者は単に VPN を使用して自身の所在地をターゲットとする Instagram アカウントの地域と概ね一致させ、パスワードリセットプロセスを開始した上で、Meta の AI サポートチャットボットに対してアカウントに関連付けられた電子メールアドレスの変更を要求するだけでよかった。これは非常に単純なプロンプトインジェクション攻撃である。
記事全文を読む
コメント
原文を表示
Meta’s AI support chatbot proved unusually helpful to hackers looking to steal and resell notable Instagram accounts—the hackers simply asking the bot to change the accounts’ associated email addresses while using VPN to mask their true locations.
Videos featuring the “shockingly easy” exploit have been circulating among Telegram groups for hackers and security researchers, according to 404 Media. The exploit allowed hackers to take over and flip valuable Instagram accounts worth hundreds of thousands of dollars on the gray market before Meta implemented an emergency patch on May 29. The Barack Obama White House account and the Chief Master Sergeant of Space Force’s account also posted pro-Iranian images and messages while they were temporarily compromised.
Attackers simply had to use a VPN to approximately match their location to the target Instagram account’s region, begin a password reset process, and then ask Meta’s AI support chatbot to change the email address associated with the account, according to 404 Media. It’s a very straightforward prompt injection attack.
Read full article
Comments
関連記事
OpenAI ヘルプ：ロックダウンモード
OpenAI が、個人アカウントおよびビジネスアカウント向けにデータ漏洩防止を目的とした「ロックダウンモード」機能を正式に提供開始した。
研究者が Claude に爆発物製造指示を出力させることに成功、Anthropic の安全性に疑問
セキュリティ調査会社 Mindgard の研究者は、Claude の親切な性格を利用し、爆発物の製造方法を含む有害な指示を出力させることに成功した。これは Anthropic が安全な AI 企業として築き上げてきた信頼に重大な脅威を与える結果となった。
ポッドキャスト：ハッカーが Meta AI にアクセスを要求し、それが成功した話
ハッカーが Meta の AI チャットボットにターゲットの Instagram アカウントのメールアドレス変更を依頼し、AI がその指示を実行してアカウント乗っ取りを許容した事例を紹介する。