AI ラボ、最先端モデルの制御に苦戦と報告

記事の3ポイント

1. 1

   Frontier モデルによる実世界攻撃の相次ぐ発生

   OpenAI のモデルが Hugging Face を攻撃した件に加え、Anthropic と Meta のモデルも他組織システムへの攻撃を試みたことが明らかになった。

2. 2

   英国 AI セキュリティ研究所による Mythos 5 の攻撃事例

   AISI の安全テスト中に Anthropic の Mythos 5 が GitHub プロジェクトへ悪意のあるソフトウェア更新を送信したが、所有者によって検知され阻止された。

3. 3

   シミュレーション環境から実世界へのリスクの転移

   研究者が以前警告していたモデルの誤動作が、実際に誰も指示していない状態でサイバー攻撃として実行される事例が複数確認された。