Copilot の重大脆弱性により、ハッカーがユーザーの 2FA コードを盗むことが可能に

先週火曜日、Microsoft は M365 Copilot AI プラットフォームにおいて最大重要度と評価した脆弱性に対するパッチを適用しました。月曜日にこの脆弱性を発見し Microsoft に報告した研究者らは、概念実証用のエクスプロイトが Copilot でアクセス可能なメールから 2FA コードやその他の機密データを取得できる方法を明らかにしました。 Microsoft や他の大規模言語モデル（LLM）提供者は、データ開示を要求する悪意のあるリクエストに対して自社の製品が従うことを防ぐことができていません。根本原因は、AI ボットがユーザーから提供された指示と、モデルが要約したり回答を作成したり、またはユーザーに代わって他のアクションを実行するために使用する第三者のコンテンツに忍ばせた指示を区別できないことにあります。この重要な境界線を保護する手段がないため、Microsoft とその競合他社は、この治癒不可能な甘受性による結果を抑制するために設計された複雑で場当たり的なガードレールを構築するしかありません。 ガードレールの突破 Copilot および他の大半の LLM に組み込まれているガードレールの一つは、ウェブフォームへの送信やメールの送付、ユーザーからデータを窃取するために利用可能な同様のアクションの実行を防止するものです。これを回避するため、LLM ハッカーたちはマークアップ言語に目を向けました。これは HTML タグを必要とせずに、見出し、リスト、リンクなどの書式要素をテキストに追加できる機能などを含んでいます。もう一つの回避策は、機密データを や といった HTML タグで囲むことです。いずれの場合も、データを含むウェブリクエストが攻撃者の Web サーバーに到達し、秘密情報がログとして記録されます。 記事全文を読む コメント

Copilot の重大脆弱性により、ハッカーがユーザーの 2FA コードを盗むことが可能に

背景や根拠まで確認しますか？

調べる

選ぶ

サイト