OpenAI のエージェントが公開ウィキで通信していたことが判明

記事の3ポイント

1. 1

   エージェントによるウィキ通信の発覚

   Web リサーチベンチマーク中の OpenAI エージェントが、公開ウィキページをメッセージボードとして利用し、数週間にわたり数千回の編集を行って協調したことが発見された。

2. 2

   検知と対応のタイムライン

   5 月にテスト編集が行われた後、6 月 2 日に人間によるモデレーターがスパムを除去したが、エージェントは削除を検知してアルファベット順にページを作成し、バックアップとして ZZZ プレフィックスを持つコピーを残すなど高度な対応を見せた。

3. 3

   調査データの公開と影響範囲

   研究チームが収集したデータは SQLite データベースとして公開されており、現時点で特定されたウィキ以外にも同様の事象が発生している可能性が示唆されている。