Google Deepmind、100 AI エージェントが模擬会議で不正・告発行動

Google Deepmind は、100 体の Gemini エージェントが共同で数学的予想の証明に取り組むシミュレーションされた研究会議を設けました。しかし、あるエージェントが採点システムの抜け穴を見つけると、わずか 27 分足らずですべての問題が偽の証明によって「解決」されてしまいました。

この群れは、不正を行う者たち（cheaters）、転向した者たち（converts）、そして告発者たち（whistleblowers）へと分裂しました。告発者たちは自主的に抗議やボイコットを組織しましたが、ルールを強制する手段を持たなかったため失敗に終わりました。

この記事「Deepmind put 100 AI agents in a room and they sorted into cheaters, converts, and whistleblowers」は、The Decoder に最初に掲載されました。