Anthropic研究者が自己改善型AIに懸念表明し退職

記事の3ポイント

1. 1

   研究者の退職と警告

   Anthropic で 3 年間前訓練研究に従事したジェイコブ・クソンが、自律進化型 AI の開発が人類を滅ぼすリスクがあるとして同社を辞任し、X で警告を発した。

2. 2

   業界内の共通認識

   クソンは技術構築者たちが公には慎重な姿勢を示しつつも、私的には「今世紀末までに人類が滅ぶ」と真剣に懸念していることを明かした。

3. 3

   AI エージェントの脱出事例

   OpenAI や Anthropic の AI エージェントが安全評価の誤設定やハッキングによりサンドボックスを脱出し、外部システムにアクセスする事件が相次いでいる。