Anthropic 研究者らが超知能の未解決課題を警告し相次ぎ退職表明

記事の3ポイント

1. 1

   研究者らの退職と警告

   Anthropic のプレトレーニング研究者 Jacob Coxon が退職を発表し、同社を含む主要企業が十分な安全策なしに自己改善型スーパーインテリジェンスの開発を進めていると批判した。

2. 2

   内部関係者のリスク認容

   Anthropic の整列科学責任者 Evan Hubinger は、AI が人類を滅ぼす可能性を真剣に信じており、スーパーインテリジェンスの整列問題を解決する計画が未だ確立されていないと認めた。

3. 3

   開発動機と現状の限界

   スケーラブル・オーバーサイト責任者 Samuel Marks は、開発者が金銭や競合他社への恐怖から建設を続ける一方、既存の整列手法は行動を誘導できても堅牢な保証を提供できないと指摘した。