Anthropic 研究者が退社し、自己改善 AI の危険性を警告

記事の3ポイント

1. 1

   研究者の退社と警告

   Anthropic の著名な研究者ジェイコブ・クソン氏が同社を去り、先端的 AI 企業が「人類を滅ぼす」可能性のあるシステムで賭けをしていると公に警告した。

2. 2

   自己改善型 AI のリスク

   現在のモデルよりも、あらゆるものをハッキングし一夜で分野を革新する「自己改善型スーパーインテリジェンス」が内在する存在リスクであると指摘している。

3. 3

   業界内の賛同と見解

   Anthropic のアライメント科学責任者エバン・ヒュービンガー氏がクソン氏の主張に同意し、今後 10 年以内に AI が人類を滅ぼす確率を 10% 以上と推測している。