Anthropic 研究者、AI が人類絶滅する可能性を警告

記事の3ポイント

1. 1

   研究者の離職と危険性の警告

   Anthropic のシニア研究員 Jacob Coxon が、AI 開発における安全性への配慮が不十分であるとして同社を辞任し、AI が人類を絶滅させる可能性について懸念を表明した。

2. 2

   経営陣による危険性の認容

   Anthropic の AI セーフティチーム責任者 Evan Hubinger は、自己改善型 AI への懸念を共有し、今世紀末までに人類が絶滅する確率が 10% を超えると個人的に推定したと語った。

3. 3

   安全策の計画不足と競争の加速

   Hubinger は Anthropic が高度な AI の安全性を確保するための具体的な計画を持たず、明確な軌道に乗っていないと認めつつ、競合他社との開発競争がリスクを無視して進行していると指摘した。