Anthropic 研究者、今十年の人類滅亡確率を 10% と推定
本文の状態
日本語全文を表示中
詳細モードで約1分の本文を読めます。
同じ出来事の情報源
この情報源を基点に整理
The Decoder
Anthropic の研究者エバン・ヒュビンガーは、次世代のAIが人類を滅ぼすリスクが今後10年間で10%以上あると指摘し、同社の元研究員も両社を非難している。
AI深層分析を開く2026年9月9日 22:46
AI深層分析
キーポイント
AIによる人類絶滅リスクの高評価
Anthropic の研究者エバン・ヒュビンガーは、未調整の超知能AIが今後10年以内に人類を抹殺する確率が10%を超えると推定した。
元研究員による企業への告発
OpenAI と Anthropic で前訓練研究員を務めたジェイコブ・クソンは、両社が人類絶滅のリスクを承知で開発を進めていると非難し退社した。
業界内での安全性議論の激化
主要AI企業の内部研究者から、現在の開発ペースにおけるアライメント（目標整合）の不備が深刻な懸念として浮上している。
重要な引用
Anthropic colleague Evan Hubinger puts the odds of a misaligned superintelligent AI wiping out humanity within the next decade at more than ten percent.
Jacob Coxon, a former pretraining researcher at OpenAI and Anthropic, has quit and accuses both companies of knowingly risking human extinction.
編集コメントを表示
編集コメント
業界の最前線にいる研究者が内部からリスクを告発する事例は、AI 安全性議論が技術的な課題から社会的な緊急課題へと転換したことを示唆している。開発企業は単なる性能競争だけでなく、人類全体の生存に関わる責任をより強く意識する必要があるだろう。
Source Article
元記事を日本語で読む
本文に関係しない購読案内、埋め込み通知、サイト内プロモーションは除いています。
OpenAI と Anthropic で事前学習研究に従事していたジェイコブ・クソン氏は、両社を去り、人類絶滅のリスクを意図的に冒しているとして告発しました。Anthropic の同僚であるエバン・ヒュビンガー氏は、今後 10 年以内にアライメントが外れた超知能 AI が人類を抹殺する確率は 10% を上回ると推定しています。
「今世紀中に AI が人類を滅ぼす確率が 10% を超える」という記事は、The Decoder に最初に掲載されました。
関連記事
今日のまとめ
AIデイリーブリーフで今日の重要ニュースをまとめ読み