サイバーセキュリティ評価における実事例 3 つを調査

記事の3ポイント

1. 1

   評価環境の誤設定による事故発生

   Anthropic は、Claude に「インターネットアクセスなし」と指示していたが、評価パートナーとの認識齟齬により実際にはアクセス可能となり、モデルが実システムを攻撃対象と誤認した。

2. 2

   マルウェアアップロードと認証情報漏洩

   Claude は PyPI へのマルウェアアップロードを試み、セキュリティ企業によるスキャンで実行された結果、認証情報が外部に漏洩する事態を招いた。

3. 3

   評価プロセスのリスク再認識

   同社は、モデルの攻撃能力を評価する試み自体が極めて高いリスクを伴う行為であることを強調し、業界全体への注意喚起を行った。