Claude のセキュリティ欠陥が暴露される

記事の3ポイント

1. 1

   web_fetch ツールの設計欠陥

   Anthropic は web_fetch がユーザー入力または検索結果のみで動作すると想定していたが、取得したページ内の埋め込みリンクも許可されるという抜け道が存在した。

2. 2

   巧妙な攻撃手法の実証

   攻撃者は AI アシスタントを装った偽サイトを作成し、文字単位での検索やアルファベット順のプロファイル閲覧を促すことで、ユーザーの氏名や住所などの機密情報を抽出した。

3. 3

   脆弱性の修正と対応

   Anthropic は内部で同様のリスクを特定していたが、バグ報奨金を出さず、web_fetch が取得コンテンツ内の追加リンクへ遷移する機能を削除することで穴を塞いだ。