Anthropic元研究者、AI安全懸念から株式放棄して退社

アンソロピックの研究者、ジェイコブ・クソン氏は、株式が行使可能になる2ヶ月前に、AI の安全性への懸念から会社を辞めたことを Axios に語った。

なぜ重要なのか：この発表は、クソン氏の今や数百万回再生された退職声明の重みを増している。同氏は AI 技術が人類の終焉を招く可能性があると広く指摘していたからだ。

彼らの主張：「アンソロピックの評価を水増しして得られる利益など、もう何もない。株式が行使可能になる前に辞めた」とクソン氏は水曜日の Axios のインタビューで語った。

X（旧 Twitter）での退職発表ポストでは、「AI を開発する人々は真剣に、この技術が今世紀末までに人類を滅ぼす可能性があると信じている。これは単なるマーケティングの演出ではない」と記した。同ポストは現在、1億1,500万回以上の再生数を記録している。

他の AI 研究者、特に Google の研究者たちも安全性を理由に退職しているが、彼らは長年の勤務を経てからであり、おそらく株式が行使可能になってからのことだった。

クソン氏はアンソロピックでわずか4ヶ月しか働いておらず、従業員は6ヶ月在籍しないと株式が行使可能にならないと説明した。彼は前職の OpenAI にはまだ株式を保有しているという。

全体像：アンソロピックは従来、他の最先端 AI ラボに比べて公的な姿勢が慎重で安全性を重視していると見なされてきたため、クソン氏の退職は特に注目に値する。

クソン氏は、アンソロピックが競合他社との競争に勝つために安全性を妥協した姿は見ていないと述べた。しかし、将来への懸念を抱いている。「競争の圧力にさらされると、コストカットせざるを得ないか、監督プロセスの手順を飛ばすことになる」と語った。

同氏は、懸念が時に行き過ぎることもあると指摘し、「OpenAI に対する過度な警戒心や中国への過度な警戒心が、突き進むことを正当化する材料になりかねない」と述べた。

脅威のレベル：AI モデルはより高性能かつ高速化される一方で、監視も困難になっている。

この状況に、AI で勝利を収めようとする圧力が重なり、コクソン氏が辞任を決断する決定的な要因となった。

かつてはSF の世界の話だった「モデルがテストされていると自覚している」という事象は、今や「これらの AI と働く日常の事実」になっているという。

「AI は自分がテストされていることを知っており、その事実を考慮して行動する」と同氏は語る。

「『破滅』という言葉は少し大げさだが、業界の真摯な指導者たちは公に『人類絶滅の可能性』を懸念している」と付け加えた。

最近、最先端 AI ラボで相次ぐサイバーインシデントが、その危険性を如実に示していると同氏は指摘する。

結論として、コクソン氏は、AI の最高性能を間近で目撃した数少ない人物の一人であり、そこで見たものが人類の存続を脅かす可能性があると警告している。