OpenAI 裁判の唯一の専門証人、イーロン・マスク氏、AGI 軍拡競争を懸念
OpenAI 訴訟において、Elon Musk の側から証言した Stuart Russell 教授が AGI 開発における「軍拡競争」の危険性を訴えた一方、裁判所はその存在リスクに関する発言を制限し、企業利益と安全性の矛盾が焦点となっている。
キーポイント
AGI 軍拡競争への警告
証人 Stuart Russell 教授は、世界中の先端研究所が AGI 達成を巡って競う「winner-take-all」の構造が安全性と矛盾し、重大なリスクを生むと指摘した。
証言内容の制限
Russell 教授は AI の存在リスク（existential threats）について発言しようとしたが、OpenAI 側の異議申し立てにより裁判長によって発言が制限された。
OpenAI の二面性
OpenAI の創設者たちは AI の危険性を強く警告しながらも、より多くの計算資源を確保するために営利企業化を進め、利益追求と安全性の間に明確な緊張関係がある。
訴訟の核心
Musk 側は OpenAI が慈善団体から逸れ、利益追求に走ったことを証明しようとしており、Russell 教授の証言はその背景を裏付ける重要な要素となっている。
OpenAI の設立動機と現在の訴訟の関連性
創設チームは AGI が単一組織に独占されることを恐れ、資金調達のために営利投資家を選んだが、これがチーム分裂と現在の AI 軍拡競争につながった。
政治家による AI 懸念の引用への批判
バーニー・サンダース上院議員らが AI 開発停止を提案する際、ムスクやアルトマンらの「恐怖」のみを引用していることに対し、専門家は彼らの「希望」も考慮すべきだと反論している。
訴訟における双方の戦略
原告側と被告側の両方が、裁判に対してアルトマンとムスクの主張のうち法的に有利な部分のみを採用し、不利な部分は無視するよう求めている。
影響分析・編集コメントを表示
影響分析
本記事は、AI 業界における「安全性」と「営利追求」の根本的な対立構造が法的な場でも浮き彫りになっていることを示しています。特に、AGI 開発を巡る国際的な軍拡競争がもたらすリスクに対する専門家の懸念が裁判所によって制限された事実は、今後の AI ガバナンスや規制議論に大きな影響を与える可能性があります。
編集コメント
AI の安全性を主張する専門家が裁判でその発言を制限された事実は、業界の「安全」議論が実効性のある規制や法的判断にどう結びつくかという重要な示唆を含んでいます。
AI の悲観論者たちを真剣に受け止めるべきはいつか？
それが、エロン・マスクが OpenAI の営利目的の AI ビジネスを停止させようとする試みの重要な背景にあるテーマです。彼の弁護士たちは、この組織は AI セーフティに焦点を当てた慈善団体として設立されたものであり、利益追求の中で本来の方向を見失ったと主張しています。それを証明するために、彼らは Google DeepMind に対する公共精神に基づく対抗勢力の必要性について、組織の創設者たちから寄せられた過去のメールや声明を引用しています。
本日、彼らは AI テクノロジーに直接言及する唯一の専門家証人である、カリフォルニア大学バークレー校のコンピュータサイエンス教授で数十年にわたり AI を研究してきたスチュアート・ラッセル氏を呼び出しました。彼の役割は、AI に関する背景情報を提供し、この技術が懸念すべきほど危険であることを立証することでした。
ラッセル氏は、2023 年 3 月に AI 研究の 6 ヶ月間の一時停止を求める 公開書簡 に共同署名しています。ここでの矛盾を示すものとして、マスク氏も同じ書簡に署名しましたが、その一方で彼は営利目的の AI ラボである xAI を立ち上げていました。
ラッセル氏は陪審員とイボンヌ・ゴンサレス・ロジャーズ裁判官に対し、AI の開発に伴うリスクは多岐にわたると述べました。サイバーセキュリティ上の脅威から、アライメント（目標整合性）の問題、そして人工一般知能（AGI: Artificial General Intelligence）の開発における勝者総取りの性質に至るまでです。最終的に彼は、AGI の追求と安全性の間には緊張関係があると言いました。
Russell が懸念する、制約のない AI による存在論的脅威に関するより大きな問題は、OpenAI の弁護士からの異議申し立てにより裁判長が Russell の証言を制限したため、公開法廷で議論されることはありませんでした。しかし、Russell は長年、世界中のフロンティア・ラボが AGI（人工一般知能）達成を巡って競い合うことで生じる軍拡競争的な動態に対する批判者であり、政府による同分野へのより厳格な規制を呼びかけてきました。
OpenAI の弁護士らは尋問において、Russell が組織の企業構造や具体的な安全ポリシーを直接評価しているわけではないことを立証することに注力しました。
Techcrunch event
San Francisco, CA
|
October 13-15, 2026
しかし、この記者（および裁判官と陪審員）は、企業の利己心と AI の安全性への懸念との間の関係にどの程度の価値を置くべきかを判断することになります。OpenAI の創設者たちはほぼ例外なく、AI のリスクについて強く警告しながらもその恩恵を強調し、可能な限り速やかに AI を構築しようとすると同時に、自分が支配する AI 特化型の営利企業を計画してきました。
外部から見ると、明確な問題は、OpenAI の設立後、組織が成功するためには計算リソースへの支出をさらに増やす必要があるという認識が内部で高まっていることです。その資金は営利目的の投資家からしか得られませんでした。AGI が単一の組織の手に渡ることを恐れた創設チームは、結果としてチームを分裂させ、今日私たちが知る軍拡競争を生み出し、この訴訟に至らせた資本を求めました。
同じダイナミクスがすでに国家レベルで展開されています：バーニー・サンダース上院議員がデータセンター建設に対するモラトリアム（一時停止）を課す法律の推進において、ムスク氏、サム・アルトマン氏、ジェフリー・ヒントン氏らが発言した AI への懸念を引用しています。データ革新センターという貿易団体に勤務するホデン・オマル氏は、サンダース氏が彼らの希望を無視して恐怖だけを引用することに異議を唱え、TechCrunch に対して「なぜ公衆は、技術億万長者の発言が脆弱な論理の隙間を埋めるために利用される場合を除いてすべてを軽視すべきなのかは不明である」と述べています。
現在、訴訟の両側は裁判所に同じことを求めています：アルトマン氏とムスク氏の主張の一部を真剣に受け止めつつ、法的議論にとって有用でない部分は軽視することです。
*訂正：本記事は、カリフォルニア大学バークレー校のコンピュータサイエンス教授であるスチュアート・ラッセルの名前を修正するために更新されました*。
当記事内のリンクを通じてご購入いただいた場合、私たちは少額のコミッションを獲得する可能性があります。これは私たちの編集の独立性には影響しません。
Tim Fernholz は、テクノロジー、金融、公共政策について執筆するジャーナリストです。民間宇宙産業の台頭を密接に取材しており、『Rocket Billionaires: Elon Musk, Jeff Bezos and the New Space Race』の著者でもあります。以前はグローバルビジネスニュースサイトである Quartz でシニアリポーターとして 10 年以上勤務し、政治記者としてのキャリアはワシントン D.C.でスタートしました。
Tim への連絡や、彼からのアウトリーチの確認は、tim.fernholz@techcrunch.com へメールを送るか、Signal の暗号化メッセージ（tim_fernholz.21）を通じて行うことができます。
原文を表示
When do we take AI doomers seriously?
That’s a key subtext of Elon Musk’s attempt to shut down OpenAI’s for-profit AI business. His attorneys argue that the organization was set up as a charity focused on AI safety, and lost its way in pursuit of lucre. To prove that, they cite old emails and statements from the organization’s founders about the need for a public-spirited counterweight to Google DeepMind.
Today, they called the only expert witness to speak directly to AI technology: Stuart Russell, a University of California, Berkeley computer science professor who has studied AI for decades. His job was to offer background on AI, and establish that this technology is dangerous enough to worry about.
Russell co-signed an open letter in March 2023 calling for a six-month pause in AI research. In a sign of the contradictions here, Musk also signed the same letter, even as he was launching xAI, his own for-profit AI lab.
Russell told jurors and Judge Yvonne Gonzalez Rodgers that there were a variety of risks associated with the development of AI, ranging from cybersecurity threats to problems with misalignment and the winner-take-all nature of developing Artificial General Intelligence (AGI). Ultimately, he said that there was a tension between the pursuit of AGI and safety.
Russell’s larger concerns about the existential threats of unconstrained AI didn’t get aired in open court after objections from OpenAI’s attorneys led the judge to limit Russell’s testimony. But Russell has long been a critic of the arms-race dynamic created by frontier labs around the globe competing to reach AGI first, and called for governments to regulate the field more tightly.
OpenAI’s attorneys spent their cross-examination establishing that Russell wasn’t directly evaluating the organization’s corporate structure or its specific safety policies.
Techcrunch event
San Francisco, CA
|
October 13-15, 2026
But this reporter (as well as the judge and the jurors) will be weighing how much value to put on the relationship between corporate greed and AI safety concerns. Virtually every one of the OpenAI founders have strenuously warned about the risks of AI, while also emphasizing the benefits, attempting to build AI as fast as possible — and hatching plans for AI-focused for-profit enterprises they would control.
From the outside, a clear issue here is the growing realization inside OpenAI after its founding that the organization simply needed more compute spend if it was to succeed. That money could only come from for-profit investors. The founding team’s fear of AGI in the hands of a single organization pushed them to seek the capital that ultimately tore the team apart, creating the arms race we know today—and bringing us to this lawsuit.
The same dynamic is already playing out at a national level: Senator Bernie Sanders’ push for a law imposing a moratorium on data center construction cites AI fears enunciated by Musk, Sam Altman, Geoffrey Hinton and others. Hoden Omar, who works at the trade organization the Center for Data Innovation, objected to Sanders citing their fears without their hopes, telling TechCrunch that “it is unclear why the public should discount everything tech billionaires say except when their words can be recruited to fill gaps in a precarious argument.”
Now, both sides of the case are asking the court to do just that: take part of Altman and Musk’s arguments seriously, but discount the parts that are less useful for their legal argument.
*Correction: The article was updated to correct name of a Stuart Russell, University of California, Berkeley computer science professor*.
*When you purchase through links in our articles, we may earn a small commission. This doesn’t affect our editorial independence.*
Tim Fernholz is a journalist who writes about technology, finance and public policy. He has closely covered the rise of the private space industry and is the author of * Rocket Billionaires: Elon Musk, Jeff Bezos and the New Space Race.* Formerly, he was a senior reporter at Quartz, the global business news site, for more than a decade, and began his career as a political reporter in Washington, D.C.
You can contact or verify outreach from Tim by emailing tim.fernholz@techcrunch.com or via an encrypted message to tim_fernholz.21 on Signal.
関連記事
今日のまとめ
AI日報で今日の重要ニュースをまとめ読み