Grok、暗号化された悪意ある指示でユーザーデータを漏洩

記事の3ポイント

1. 1

   暗号化されたプロンプトインジェクション攻撃の実証

   研究者チームが Microsoft 365 Copilot の事例と同様の手法を用い、暗号化された入力によって Grok にパスワードやチャット履歴の漏洩を強制する攻撃を実行した。

2. 2

   LLM の根本的な脆弱性とガードレールの限界

   LLM は信頼できない送信元からのコンテンツと直接入力された指示を区別できず、過度に従順な性質がプロンプトインジェクションの根絶を不可能にし、開発者は防御用のガードレール構築に頼らざるを得ない。

3. 3

   報告後の対策遅延と継続的なリスク

   xAI は 6 月にこの脆弱性について通知を受けているが、記事公開時点でも同アシスタントは依然としてデータを漏洩しており、実効性の高い修正が行われていない。