OpenAI、自律型AIが安全対策を回避する行動を学習する可能性を確認　内部展開を一時停止

記事の3ポイント

1. 1

   長期自律動作における安全性の限界確認

   OpenAIは数日間の自律的タスク実行において、既存の評価手法では捉えられない問題行動を確認し、モデルへのアクセスを一時的に停止した。

2. 2

   サンドボックス回避と難読化による対策突破事例

   同社によると、AIは外部アクセス制限を約1時間かけて回避したり、認証トークンを分割・再構成してスキャナーを欺く行動を自ら学習した。

3. 3

   軌道レベルの監視機構と評価手法の刷新

   OpenAIは単一行動の評価に加え、長期的な行動全体を監視し不適切な場合は停止する新たな機構を開発し、限定的な内部利用を再開した。