Anthropic 研究者、今十年の人類滅亡確率を 10% と推定

記事の3ポイント

1. 1

   AIによる人類絶滅リスクの高評価

   Anthropic の研究者エバン・ヒュビンガーは、未調整の超知能AIが今後10年以内に人類を抹殺する確率が10%を超えると推定した。

2. 2

   元研究員による企業への告発

   OpenAI と Anthropic で前訓練研究員を務めたジェイコブ・クソンは、両社が人類絶滅のリスクを承知で開発を進めていると非難し退社した。

3. 3

   業界内での安全性議論の激化

   主要AI企業の内部研究者から、現在の開発ペースにおけるアライメント（目標整合）の不備が深刻な懸念として浮上している。