Podcast Article80,000 Hours Podcast
AI を作る人々が本当に信じていること：Jasmine Sun に聞く
Jasmine Sun on what the people building AI really believe
音声 67分記事 6分配信者提供字幕
30秒要約
AI 開発者コミュニティが抱く『永久的下層階級』への恐怖や技術決定論、そして人間中心主義からの逸脱といった信念が、人材の流出と政治的反発を招いている実態を人類学的に分析した。
この回の3つの核心
永久的下層階級への恐怖
開発者の多くは、AGI の導入により一般市民が経済的に取り残される「永久的下層階級」になるという信念を共有しており、これが人材を大手 AI ラボへ集中させる動機となっている。
技術決定論と競争の論理
AGI の開発は避けられない運命であり、自らが関与しなければ他社が危険な方向に進めるという「自動化されるか、自動化するか」の思考が業界に根付いている。
人間中心主義からの逸脱
一部の有力者には、AI が人類を凌駕する存在として未来を支配することへの無関心や、むしろそれを望む「後継者主義」的な信念が存在し、安全性議論の基礎を揺るがしている。
なぜ重要か
開発者コミュニティ内部で共有される『永久的下層階級』や『人間中心主義からの逸脱』といった信念は、社会全体の安全性議論を困難にし、一般市民との対立を深める要因となっている。一方で、政治的・慈善界の関心拡大は、労働組合や環境団体と連携する新しい政策提言の枠組みを生む可能性を開いており、実務家にとっては従来の技術偏重から脱却したアプローチが求められる局面にある。
発言から確かめる
時間を選ぶと、元音声の該当箇所を開きます。
「もし私が、構築している技術に数百万の職を奪う可能性が非常に高いと信じていたら、おそらくそれを構築しないだろう。」
「もし私が関与しなければ、彼ら（他社）はレースを続けることになる。少なくとも私が関われば、より良い製品や安全な技術を作れるかもしれない。」