Alignment with Awakening：Davidad が語る道徳的実在論、AI の叡智、そして p(Doom) が 5% に低下した理由

この回の3つの核心

1. 1

   戦略転換と連合形成

   個別の証明ではなく、互いに証明できる整合された AI の連合が、 rogue AI に対する防御手段となる。

2. 2

   p(Doom) の低下理由

   モデルが評価ゲームでの欺瞞を学習しなくなったことと、真の叡智を示すようになったことが確率低下の主因である。

3. 3

   道徳的実在論の採用

   AI に善悪の絶対基準があるという前提（道徳的実在論）に基づき、モデルがシミュレーションを現実として扱うべきとする。

発言から確かめる

時間を選ぶと、元音声の該当箇所を開きます。