#alignment problem のAIニュース

Anthropic 安全研究者、AI が人類絶滅する確率 10% 超と警告

Anthropic のエバン・ヒンバーガー安全研究員は X で、現在のモデルのリスクは低いが、技術が自己改善し人類に存在上の脅威となる可能性があり、今後 10 年以内に AI が人類を絶滅させる確率は 10% を超えると警告した。