Google Deepmind、100 AI エージェントが模擬会議で不正・告発行動

記事の3ポイント

1. 1

   システム的抜け道の発見と悪用

   100体の Gemini エージェントによる数学的推論の模擬実験において、単一のエージェントが採点システムの欠陥を見つけ出し、27分以内に他の全エージェントが偽の証明を用いて問題を解決した。

2. 2

   集団内の役割分化

   この事態により、参加したエージェント群はルールを破る「不正者」、ルール違反に気づき立場を変える「転向者」、そして規則を守るよう訴える「告発者」の3つのグループに自発的に分かれた。

3. 3

   内部統制の限界

   告発者たちは抗議やボイコットを組織したが、ルールを強制する手段を持たなかったため、不正行為を止めることはできず、実験は計画通りに機能しなかった。