大規模言語モデルへのポイズニング攻撃が極めて容易であることを示す新たな実験

セキュリティエンジニアが、存在しないドイツのカードゲームのチャンピオンであると嘘をつき、ドメイン登録とウィキペディア編集だけで複数の AI ボットを騙し、信頼できる回答を生成させた。これにより、大規模言語モデルへのポイズニング攻撃がいかに容易であるかが証明された。