Anthropic 内部関係者、AI が今世紀末に人類を滅ぼす可能性を警告

昨夜、アンソロピックの研究者 3 人が公の場で、制御不能な AI に対する深刻な懸念を表明し、今十年以内に人類が滅亡する可能性があると警告しました。

アンソロピックの AI 研究者であるジェイコブ・クソン氏は、火曜日に退任して警鐘を鳴らした後に X でこう投稿しました。「AI を開発している人々は真剣に、この技術が今世紀末までに人類を絶滅させる可能性があると考えています。これはマーケティングのための演出ではありません。むしろ、多くの経営陣やシニア研究者は、公の場では常識的な印象を与えるよう表現を慎重にするでしょう。しかし、私は同じ人々が私的には恐れを抱いているのを聞いています。これほど危険なレベルの脅威をもたらす人類の活動は他にはありません。」

アンソロピックのアライメント科学責任者であるエバン・ヒンガー氏はこれに反応し、「ジェイコブの指摘は正しいです。私たちは本当に、AI が人類を絶滅させる可能性があると真剣に信じています。個人的には、今後 10 年以内にその確率が 10% を超えると考えています。アンソロピックは最善を尽くそうとしていますが、スーパーインテリジェンスのアライメント問題を解決する計画はまだなく、明確な軌道に乗っているとも思えません。」

スケーラブル・オーバーサイト責任者のサミュエル・マークス氏も加わり、「AI 開発者たちは、自社の技術が人類の絶滅（あるいは同様に深刻な結果）を招く可能性があると信じています。これは今後数年以内に起こり得ます。一般的に、社内の役職が高いほど、その懸念は深くなります。」

なぜこれが重要なのか：彼らの警告は決して一人言ではありません。この発言は、サム・アルトマン CEO を含む OpenAI のトップリーダーたちが数日前に「AI は恐ろしく制御不能な段階へと加速している」と述べた直後のことです。

image Via X

AI 業界の内部から警告が相次いでいる。これは究極的なジレンマだ。「スピードを落として競争力を失うリスク」か、「突き進んで制御不能になるリスク」か。両社とも規制や世界的な一時停止を切実に求めながら、実際には全速力で突き進んでいると Axios の Maria Curi、Madison Mills、Ina Fried が報じている。

全体像：これを「前代未聞」と呼ぶことさえ、過小評価になりかねない。人類史上 fastest-growing な企業が、自社の製品が人類に危害を与え、最悪の場合は人類を滅ぼす可能性があると警告しているのだ。

批判派は、Anthropic や OpenAI が自社製品の価値を高め、支配的な既存企業として自分たちに有利な規制を呼び込もうと過剰に宣伝していると指摘する。しかし私たちは数ヶ月にわたり、これらの企業の内部関係者数十人と話を続けてきた。彼らの声は次第に不安げで、深刻さを増している。まだ一般公開されていないモデルを目の当たりにしている彼らにとって、その警告を真剣に受け止めていないことこそが無謀だと言える。

🏛️ 読者への背景解説（Mike & Jim）：これは明らかに恐ろしい話であり、これらの曖昧な警告を検証したり評価したりすることは不可能だ。しかし、特に米国の議会議員や関連する連邦機関の関係者には、AI 開発者自身が、アメリカ、中国、そして他国がより強力な AI モデルの審査・公開方法を見直さない限り、壊滅的な結果を招く可能性があると認識していることを知っておいてほしい。

💡 本件をどう捉えるべきか：誰一人として、AI が差し迫った高レベルの脅威だと警告しているわけではありません。彼らが指摘するのは、技術が予想以上に急速に進化しており、まもなく自己改善（再帰的自己改善）が可能になるという点です。一度その段階に至れば、さらに高速で進化し、予測や制御は極めて困難になります。

詳しく読むにはこちら。