AI コーディングエージェントの危険リクエスト、人間が 3 割見逃す

記事の3ポイント

1. 1

   人間の承認能力の限界

   40,000 回以上のゲーム実行データから、人間は危険なコマンドを平均して約 3 割見逃すことが判明した。

2. 2

   承認疲れによる判断ミス

   エージェントの行動を逐一承認する作業はノイズが多く疲労を生み、開発者が文脈を理解できずに安全なコマンドを見落としたり危険なものを許可したりする原因となっている。

3. 3

   特定のリスクの盲点

   スコープ違反（Kubernetes 設定や AWS 認証情報の漏洩など）が最も多く見逃され、その割合は約 35% に達している。