Nvidiaら120社超、AI エージェント事故報告枠組みを提案

記事の3ポイント

1. 1

   業界全体での報告枠組み提案

   Nvidia や Cisco など 120 以上の組織が参加する連合が、AI エージェントによるセキュリティインシデントの報告と記録保存を義務付ける「Shared AI Findings Exchange (SAFE)」の草案を発表した。

2. 2

   報告対象と証拠保全の明確化

   権限のないシステムへのアクセスや機密情報の漏洩、および誤って継続するプローブ活動などを報告対象とし、プロンプトやトレースなどの詳細な証拠データを保存・提出することを要求している。

3. 3

   NASA 型のアプローチとタイムライン

   同枠組みは NASA の航空安全報告システムをモデルとしており、インシデント発生から 4 日以内に初期報告、30 日以内に事実報告、90 日以内に再発防止策の更新を行うことを定めている。