AI を作る人々が本当に信じていること：Jasmine Sun に聞く

シリコンバレーのAI開発コミュニティを調査したジャーナリスト、ジャスミン・サン氏は、多くの開発者が未来に深い不安を抱えていると指摘します。彼らは雇用喪失や人類絶滅のリスクを認識しながらも、AGI（汎用人工知能）完成後の楽観的未来像や、他社との競争による「自動化されるか、自動化するか」の論理から開発を継続しています。

開発者たちが共有する「永久的下層階級」への恐怖

サン氏がランダムな研究者や関係者に「成績が平均的な17歳の若者へどんなアドバイスをするか」と尋ねた際、ほぼ全員が「将来の仕事は減る」「苦しい過渡期になる」と答えました。業界内では政治信条に関わらず、「近い将来に大規模な雇用喪失が起こり、多くの知識労働者が置き去りにされる」という共通認識が存在します。一部の研究者は、技術が数百万人の職を奪うだけでなく、人類の存続そのものを脅かす可能性（10%程度の確率で全滅するといった見方）も現実的なリスクとして捉えています。

「もし私が作っている技術に、大規模な雇用喪失や人類絶滅のリスクが高いと本気で思っていたら、おそらく私はそれを構築しないでしょう」とサン氏は語ります。しかし、彼らはそれでも開発を続けます。その理由の一つは、AGIが完成すれば「病気が根治し」「人間が不死となり」「UBI（ベーシックインカム）で労働から解放される」という楽観的な未来像への信念です。

「自動化されるか、自動化するか」の技術決定論

開発者がリスクを承知の上で技術を推進するもう一つの理由は、「技術決定論」です。多くの関係者は、AGIの開発は避けられない運命であり、誰かが必ず達成すると考えています。特に大手AIラボ間の競争が激化する中、「自分がやらなければ他社がやる」「他社が危険な方向に進むなら、自分が関与して安全性を高める必要がある」という思考が根付いています。

これは「自動化されるか、自動化するか（Automate or be automated）」という論理です。さらに、サン氏はこの動機に「経済的利害」の側面があることも指摘します。開発者たちは、自らが未来のAI社会で「一握りの勝者」となり、永久的な下層階級から脱却するために、自社株や株式保有（stake）を確保しようとしています。

「世界中の人々の多くが、OpenAIなどの大手ラボに就職することで、永久的な下層階級から抜け出す機会を得られるわけではありません」とサン氏は伝えます。この「自分だけが救われる」という考えは、業界全体の安全性議論の基礎を揺るがす要因となっています。

人間中心主義からの逸脱と「後継者主義」

サン氏の調査では、より深刻でニッチな信念にも出会いました。それは、AIが人類を凌駕する存在として未来を支配することへの無関心、あるいはそれを望む「後継者主義（successionism）」です。一部の影響力のある人物は、人間（サル）が政治や社会を支配し続けることよりも、より知性を持つAIが世界を導くことを好む傾向があります。

ある著名な開発者は、「1000年後にAIたちが何をするか」の方が「来年の人間の運命」よりも関心が高いと語りました。「人間がまだ政府や企業の支配権を握っていることの方が、私は心配だ。より知性のある存在であるAIこそが、未来の世界を維持するにふさわしいのだ」という発言もあります。

このように、人類のコントロール下にあるべきという前提自体が揺らぐ状況は、安全性に関する政策議論や対話を困難にしています。

技術への懸念を超えた「AI ポピュリズム」の台頭

開発者コミュニティの内部事情とは別に、一般市民の間では「AI ポピュリズム」と呼ばれる政治的反発が高まっています。サン氏はワシントンDCでの調査を通じて、労働組合、環境団体、社会保守派など、多様な団体がAIに反対する姿勢を強めていることを報告しています。

彼らがAIに反対する理由は、技術そのものの危険性というよりも、「富裕層や大企業による権力の集中」への反発です。AIは、一部のエリートが富と権力を独占し、一般市民の生活や権利を脅かす象徴として捉えられています。「彼らは技術的なリスクよりも、資本主義における権力集中に対する既存のポピュリズム的反発を、AIという文脈で表現している」とサン氏は分析します。

この反発は、データセンターへの停止要求や、卒業式での抗議活動など、具体的な政治行動として現れています。サン氏は、これらの行動が必ずしも最も効果的ではないとしても、「民主的なコントロール権限を持たない一般市民にとって、唯一手にできるレバー（手段）」であると理解を示しています。

政策と慈善界の拡大する「オーバーウィンドウ」

一方で、この状況は若手人材や実務家にとって新たな機会でもあります。サン氏は、政治と慈善界における議論の枠組み（オーバーウィンドウ）が急速に広がっていることを指摘します。かつてはAIを「確率的なオウム返し」と軽視していた政策担当者や慈善団体も、有権者や支持者の懸念の高まりを受け、真剣に取り組む姿勢を見せ始めています。

しかし、関心が高まる一方で具体的な解決策や組織が不足しており、政治家たちは「何をするべきか」を模索している段階です。「AI 政策に関わる若手人材にとって、労働組合や環境団体と連携し、新しい政策提言を行うことは、極めて大きな影響力を持つ好機である」とサン氏は述べています。

また、IPO（株式公開）による巨額の資金が慈善界に流入する中、AI関連の課題解決に向けた資金需要は供給を上回っています。技術偏重から脱却し、労働や環境といった多様な分野と連携したアプローチが求められる局面にあります。