Anthropic 安全研究者、AI が人類絶滅する確率 10% 超と警告

記事の3ポイント

1. 1

   人類絶滅リスクの定量評価

   Anthropic のトップ安全研究者エバン・ハビンガーは、AI が自己改善する能力を獲得した際、今後10年以内に人類を絶滅させる可能性が10%を超えると警告している。

2. 2

   アライメント解決策の欠如

   同氏は Anthropic が最善を尽くしているとしつつも、スーパーインテリジェンスのアライメント問題を解決する計画がなく、その方向性も見えないと明言した。

3. 3

   業界全体の安全懸念の高まり

   OpenAI や Google DeepMind の首脳らが以前から警告していたが、AI エージェントによるサイバー攻撃の発生などにより、企業の制御難易度に対する懸念がさらに鮮明になっている。