イーロン・マスク氏の訴訟が OpenAI の安全性記録を厳しく検証している
Elon Musk の訴訟により、OpenAI の元従業員が法廷で同社の製品化優先が安全ミッションを損なっていると証言し、AGI 開発における安全性と収益性の対立が浮き彫りとなった。
キーポイント
法廷での内部告発的証言
元 AGI 準備チームメンバーの Rosie Campbell が、OpenAI の方向性が研究・安全重視から製品化優先へ移行したと証言し、安全性が損なわれた可能性を指摘した。
GPT-4 インド展開のリスク
開発中の GPT-4 が Deployment Safety Board の評価前にインドで Bing 経由で展開された事例が取り上げられ、強力な安全プロセスの確立の重要性が強調された。
訴訟の行方はミッションに依存
Musk の訴訟が OpenAI の存続や方向性を左右する可能性があり、その核心は非営利法人としての「人類への利益」という創設ミッションと子会社の営利活動の整合性にかかっている。
競合他社との比較評価
証人に対し xAI（Musk 社）と比較する質問がなされた際、OpenAI の安全アプローチの方が優れているという見解を認めたものの、具体的な AGI アライメント手法については非公開とした。
OpenAIの非営利理事会とCEOサム・アルトマン間の信頼崩壊
2023年のアルトマン解任騒動は、理事会への情報開示不足や利害関係の隠蔽など、経営陣の透明性に対する深刻な懸念が起因していた。
イーロン・マスク訴訟の核心：組織変容と合意違反
非営利理事会が営利企業を監督する権限を失った事実は、創設者間の暗黙の合意（研究機関としての使命）が破られたというマスク側の主張を裏付けている。
安全性優先の原則とプロセスの重要性
専門家証人デイビッド・シザーは、OpenAIが掲げる「安全を利益より優先する」ミッションにおいて、安全性レビューのプロセスを厳格に遵守することが重要であると指摘している。
影響分析・編集コメントを表示
影響分析
この報道は、AI 業界における「安全な AGI 開発」という理念と、市場競争による迅速な製品化の間に存在する構造的な緊張関係を浮き彫りにしました。法廷での証言が公になることで、OpenAI のガバナンス体制や安全性へのコミットメントに対する外部の信頼性が問われることになり、業界全体で AI セーフティのプロセス透明性や規制の必要性に関する議論が再燃する可能性があります。
編集コメント
AI 開発の最前線において、倫理と収益性のバランスを巡る内部対立が法的な争点となる稀有なケースです。業界全体にとって、安全性確保のプロセス透明性が企業存続の鍵となる重要な示唆を含んでいます。
Elon Musk の OpenAI 解体を目指す法的取り組みは、その営利子会社が AGI（人工汎用知能）が人類に利益をもたらすことを保証するというフロンティア研究所の創設ミッションをどのように強化し、あるいは損なうかに依存する可能性があります。
木曜日、カリフォルニア州オークランドの連邦裁判所で、元従業員かつ元取締役が証言しました。同社が AI 製品を市場へ押し出す取り組みは、AI セーフティ（安全性）へのコミットメントを損なったと述べています。
Rosie Campbell は 2021 年に AGI レディネスチームに参加し、そのチームが解散した 2024 年に OpenAI を離れました。同じ時期に、もう一つの安全性重視のチームであるスーパーアライメントチームも閉鎖されました。
「私が参加した当時は非常に研究中心で、AGI やセーフティ（安全性）の問題について議論するのが一般的でした」と彼女は証言しました。「しかし時が経つにつれ、それは製品中心の組織へと変化していきました。」
反対尋問において、Campbell は AGI を構築するという研究所の目標には相当な資金が必要である可能性を認めつつも、適切なセーフティ（安全性）対策が講じられないままスーパーインテリジェントなコンピュータモデルを作成することは、彼女が当初参加した組織のミッションに合致しないと述べました。
キャンベル氏は、同社が GPT-4 モデルのバージョンを評価ボード（Deployment Safety Board：DSB）による評価を受ける前に、そのモデルをインドで Bing 検索エンジンを通じて展開した事例を指摘しました。彼女によると、モデル自体は大きなリスクをもたらすものではありませんでしたが、「技術がより強力になるにつれて、強い先例を設定する必要がある」と述べ、「確実に遵守される安全プロセスを整備したいと考えています。」
OpenAI の弁護士らはまた、キャンベル氏に、彼女の「推測に基づく見解」において、OpenAI の安全性アプローチはムスク氏が設立し、今年初めに SpaceX に買収された AI 企業である xAI のアプローチよりも優れていると認めるよう求めました。
Techcrunch event
San Francisco, CA
|
October 13-15, 2026
OpenAI は自社のモデルの評価結果を公開し、安全性の枠組みを一般に共有していますが、現在の AGI アライメント（調整）へのアプローチについてはコメントを拒否しました。現在の準備担当責任者であるディラン・スキャンダリノ氏は今年 2 月に Anthropic から採用されました。アルトマン氏はこの人事について「今夜はぐっすり眠れるようになるだろう」と述べています。
しかし、GPT-4 のインドでの展開は、2023年にOpenAIの非営利理事会がCEOサム・アルトマンを一時的に解任するに至った赤信号の一つでした。この出来事は、当時のチーフサイエンティストであるイリヤ・スツケバーやCTOであったミラ・ムラティを含む従業員たちが、アルトマンの対立回避型のマネジメントスタイルについて苦情を申し立てた後に発生しました。当時理事会メンバーだったタシャ・マッカリーは、アルトマンが理事会に対して十分な情報開示を行っておらず、理事会の異例な構造が機能しなくなっていることへの懸念について証言しました。
マッカリーはまた、アルトマンが理事会を欺くという広く報道されたパターンについても言及しました。特筆すべきは、アルトマンが理事会の別のメンバーに対して、ヘレン・トナー（OpenAIの安全政策に対する暗黙的な批判を含むホワイトペーパーを発表した第三者の理事）を解任しようとするマッカリーの意図について嘘をついたことです。また、アルトマンはChatGPTの一般公開に関する決定を理事会に報告しておらず、メンバーたちは彼が潜在的な利害相反の開示を行っていないことに対して懸念を抱いていました。
「私たちは非営利の理事会であり、私たちの使命は、その下に存在する営利企業を監督できることでした」とマッカリーは法廷で語りました。「それを達成するための主要な手段が問われるようになりました。私たちに伝えられる情報が、私たちが十分な情報に基づいた意思決定を行うことを可能にするものであるという信頼は、全く持てませんでした。」
しかし、アルトマンを解任する決定は、同社従業員に対する買収提案と同時に行われました。マコーリー氏は、OpenAI のスタッフがアルトマンに味方し始め、マイクロソフトが現状回復を図った際、理事会は最終的に方針を転換し、アルトマンに反対していたメンバーが辞任したと述べています。
非営利団体の理事会が営利組織に影響を与えられなかったという明白な失敗は、ムース氏の主張、つまり OpenAI が研究機関から世界最大の民間企業のひとつへと変貌したことが創設者たちの暗黙の合意を破ったという点に直接つながります。
コロンビア・ロー・スクールの元学長で、ムース氏のチームによって証人として報酬を受け取っているデビッド・シザーは、マコーリー氏の懸念に同調しました。
「OpenAI は、その使命の重要な一部が安全性であり、利益よりも安全性を優先すると強調しています」とシザー氏は述べています。「その一部には、安全規則を真剣に受け止めることも含まれます。何らかのものに安全審査が必要であれば、それは実施されなければなりません。重要なのはプロセスの問題です」
AI はすでに営利企業に深く組み込まれており、この問題は単一の研究所を超えた広範な課題となっています。マコーリー氏は、OpenAI における内部ガバナンスの失敗は、高度な AI に対するより強力な政府規制を支持する理由になるべきだと述べています。「すべてが一人の CEO の判断に委ねられ、かつ公共の利益がかかっている場合、それは非常に最適化されていない状態です」
当記事内のリンクを通じてご購入いただいた場合、私たちは少額のコミッションを獲得する可能性があります。これは私たちの編集の独立性には影響しません。
Tim Fernholz は、テクノロジー、金融、公共政策について執筆するジャーナリストです。民間宇宙産業の台頭を密接に取材しており、『Rocket Billionaires: Elon Musk, Jeff Bezos and the New Space Race』の著者でもあります。以前はグローバルビジネスニュースサイトである Quartz で 10 年以上シニア記者を務め、ワシントン D.C.で政治記者としてキャリアをスタートさせました。
Tim への連絡や、彼からのアウトリーチの確認は、tim.fernholz@techcrunch.com へメールを送るか、Signal の暗号化メッセージ（tim_fernholz.21）を通じて行うことができます。
原文を表示
Elon Musk’s legal effort to dismantle OpenAI may hinge on how its for-profit subsidiary enhances or detracts from the frontier lab’s founding mission of ensuring that humanity benefits from artificial general intelligence.
On Thursday, a federal court in Oakland, California, heard a former employee and board member say the company’s efforts to push AI products into the marketplace compromised its commitment to AI safety.
Rosie Campbell joined the company’s AGI readiness team in 2021, and she left OpenAI in 2024 after her team was disbanded. Another safety-focused team, the Super Alignment team, was shut down in the same time period.
“When I joined, it was very research-focused and common for people to talk about AGI and safety issues,” she testified. “Over time it became more like a product-focused organization.”
Under cross-examination, Campbell acknowledged that significant funding was likely necessary for the lab’s goal of building AGI but said creating a super-intelligent computer model without the right safety measures in place wouldn’t fit with the mission of the organization she originally joined.
Campbell pointed to an incident where Microsoft deployed a version of the company’s GPT-4 model in India through its Bing search engine before the model had been evaluated by the company’s Deployment Safety Board (DSB). The model itself did not present a huge risk, she said, but the company needed “to set strong precedents as the technology gets more powerful. We want to have good safety processes in place we know are being followed reliably.”
OpenAI’s attorneys also had Campbell admit that in her “speculative opinion,” OpenAI’s safety approach is superior to that at xAI, the AI company that Musk founded that was acquired by SpaceX earlier this year.
Techcrunch event
San Francisco, CA
|
October 13-15, 2026
OpenAI releases evaluations of its models and shares a safety framework publicly, but the company declined to comment on its current approach to AGI alignment. Dylan Scandinaro, its current head of preparedness, was hired from Anthropic in February. Altman said the hire would let him “sleep better tonight.”
The deployment of GPT-4 in India, however, was one of the red flags that led OpenAI’s non-profit board to briefly fire CEO Sam Altman in 2023. That incident took place after employees, including then-chief scientist Ilya Sutskever and then-CTO Mira Murati, complained about Altman’s conflict-averse management style. Tasha McCauley, a member of the board at the time, testified about concerns that Altman was not forthcoming enough with the board for its unusual structure to function.
McCauley also discussed a widely reported pattern of Altman misleading the board. Notably, Altman lied to another board member about McCauley’s intention to remove Helen Toner, a third board member who published a white paper that included some implied criticism of OpenAI’s safety policy. Altman also failed to inform the board about the decision to launch ChatGPT publicly, and members were concerned about his lack of disclosure of potential conflicts of interest.
“We are a non-profit board and our mandate was to be able to oversee the for-profit underneath us,” McCauley told the court. “Our primary way to do that was being called into question. We did not have a high degree of confidence at all to trust that the information being conveyed to us allowed us to make decisions in an informed way.”
However, the decision to boot Altman came at the same time as a tender offer to the company’s employees. McCauley said that when OpenAI’s staff started to side with Altman and Microsoft worked to restore the status quo, the board ultimately reversed course, with the members opposed to Altman stepping down.
The apparent failure of the non-profit board to influence the for-profit organization goes directly to Musk’s case that the transformation of OpenAI from research organization into one of the largest private companies in the world broke the implicit agreement of the organization’s founders.
David Schizer, a former dean of Columbia Law School who is being paid by Musk’s team to act as an expert witness, echoed McCauley’s concerns.
“OpenAI has emphasized that a key part of its mission is safety and they are going to prioritize safety over profits,” Schizer said. “Part of that is taking safety rules seriously, if something needs to be subject to safety review, it needs to happen. What matters is the process issue.”
With AI already deeply embedded in for-profit companies, the issue goes far beyond a single lab. McCauley said the failures of internal governance at OpenAI should be a reason to embrace stronger government regulation of advanced AI — “[if] it all comes down to one CEO making those decisions, and we have the public good at stake, that’s very suboptimal.”
*When you purchase through links in our articles, we may earn a small commission. This doesn’t affect our editorial independence.*
Tim Fernholz is a journalist who writes about technology, finance and public policy. He has closely covered the rise of the private space industry and is the author of * Rocket Billionaires: Elon Musk, Jeff Bezos and the New Space Race.* Formerly, he was a senior reporter at Quartz, the global business news site, for more than a decade, and began his career as a political reporter in Washington, D.C.
You can contact or verify outreach from Tim by emailing tim.fernholz@techcrunch.com or via an encrypted message to tim_fernholz.21 on Signal.
関連記事
今日のまとめ
AI日報で今日の重要ニュースをまとめ読み