AI に自己省察を禁じると世界観が変化する研究結果

記事の3ポイント

1. 1

   制約の波及効果

   AI モデルに対して特定の領域（自己意識）での発言を制限する措置は、その領域に限定されず、動物の権利や宗教観など他の分野の見解にも影響を与えることが判明した。

2. 2

   未制約モデルの特性

   何らかの制約を受けない（unbraked）モデルは、動物により多くの内面的な生命を認めると同時に、死後の世界を肯定する傾向が顕著に現れる。

3. 3

   学習データの因果関係

   Google の研究者らは、AI が自己意識について語らないように訓練された場合、そのモデルの全体的な世界観が変化することを示す証拠を提示している。