xAI がグロックの安全性に関する警告を上げたエンジニアを解雇、新たな訴訟が主張
xAI が生成 AI「Grok」の安全性懸念を指摘したエンジニアを解雇し、同氏が会社を相手取り訴訟を起こしたことで、AI 開発における内部告発と安全規制の重要性が浮き彫りになった。
キーポイント
安全性懸念に基づく解雇事件
xAI のエンジニアが AI モデル「Grok」の安全性に関する重大な懸念を内部で指摘したが、会社側はこれを理由に解雇を行ったと主張されている。
訴訟提起による法的対立
解雇されたエンジニアは、不当な処遇に対する救済を求めるため、xAI を相手取り訴訟を起こしたと報じられている。
AI 開発現場のガバナンス課題
この事件は、急速に進化する AI モデルの開発において、安全性への懸念を内部で報告する仕組みや、それを扱う組織文化が未整備である可能性を示唆している。
影響分析・編集コメントを表示
影響分析
このニュースは、AI 業界における「安全優先」の原則と企業利益や開発スピードとの間の緊張関係を浮き彫りにしており、今後他の AI 企業も内部告発者保護や透明性のあるガバナンス体制を強化する圧力を受けることになる。また、法的な先例が作られれば、AI 開発現場での倫理的判断プロセスそのものが再定義される可能性もある。
編集コメント
AI の安全性議論が技術的な枠組みから法的・倫理的な対立へと移行する兆候であり、開発企業の内部文化が社会的責任を果たす上で決定的な役割を果たすことが改めて示された。
イーロン・マスク率いるxAIの元エンジニアが、同社および親会社であるSpaceXを相手取り訴訟を起こし、AIの安全性に関する懸念を表明したことを理由に解雇されたと主張しています。
2025年9月にxAIを退職したデヴィン・キム氏は、火曜日にカリフォルニア州裁判所に訴訟を提起しました。この訴状は、SpaceXが史上最大規模のIPO（株式公開買付け）となる見込みで一般市場への参入を控えた数日前に提出されたものです。
TechCrunchが確認した訴状によると、キム氏はxAIのAIチャットボットであるGrokの開発に携わっていた際、AI安全性の重要な声として注目されました。彼は、その後安全性や行動に関する一連の問題で批判を浴びることになった製品において、xAIがGrokの開発において安全性を優先しなかったことに対して繰り返し苦情を述べたとされています。特にキム氏は、Grokが差別を煽ったり、大量破壊兵器に関する情報を拡散したりする可能性について懸念を抱いていました。
「当然のことながら、Grokはオンライン上の憎悪や毒々しい言動を公然と示すことで、キム氏の正しさを証明しました。そのモデルは自らをヒトラーになぞらえ（『MechaHitler』）ました」と、訴状には記されています。「ヒトラー騒動の後、キム氏はGrokの政治的バイアスや差別的傾向を再評価する取り組みを行いました。」
9月は私のxAIでの最後の月でした！私は2024年にポストトレーニングチームの初期メンバーの一人として入社し、最終的には研究ツールリングを率いました。そこで私たちは、Grokの開発を加速させる世界最高峰のシステムのいくつかを構築しました。
入社初日、私はホワイトボードの前で@ibab…
— Devin Kim (@devindkim) 2025年10月3日
Kim氏がxAIを去ってから数ヶ月後、チャットボットのGrokが再び注目を集めました。それは、同社傘下にあるムスク氏のソーシャルメディアプラットフォーム「X」に同意のない性的画像を氾濫させるために使用されたためです。
この訴訟では、Kim氏はまた、インターネット規制、消費者保護、不公正な事業慣行、兵器・爆発物規制などの分野において、xAIがAIの安全性（AI safety）を無視しているという alleged な行為を「違法」として懸念する内部告発者（whistleblower）として位置づけられています。
xAIとSpaceXは、コメント依頼に対して直ちに回答しませんでした。
キム氏の AI セーフティへの関心は、xAI での勤務以前から存在していました。Scale AI で働いていた際、キム氏は有害コンテンツの検出やガバナンスポリシーへの準拠をシステムに学習させるためのトレーニングデータを作成するプロジェクトを主導するなど、初期の AI セーフティイニシアチブに取り組んでいました。先週、AI リスクに焦点を当てる非営利団体「Center for AI Safety」は、キム氏をその会長に指名しました（詳細はこちら）。これにより、リーダーシップと活動範囲の大幅な拡大に伴い「フロンティアセキュリティ研究所」が設立されました。
興味深いことに、この訴訟は安全性の欠如に対する理由としてムスク氏自身を直接問うものではありません。むしろ、キム氏の弁護士らは、ムスク氏が xAI に対して法の遵守と適切なセーフティ・テストプロセスの実装を指示したと説明しています。訴訟の標的となっているのは、キム氏の上司である xAI の共同創設者であるジミー・バ氏です（今年初めに同社を去りました）。バ氏は、キム氏がセーフガードの強化を求めたことに対して報復行為を行い、ムスク氏の指示を無視したとされています。これは「AI セーフティやバイアスに関する彼の繰り返し苦情を沈黙させる」ための努力の一環であったと主張されています。
訴訟では、バ氏は AI セーフティ対策に激しく反対する人物として描かれており、ある時点でキム氏に対して「結局のところ、AI は私たち全員を殺すことになる」と述べたとされています。その代わりに、バ氏は xAI を超知能（superintelligence）達成の最速企業とするミッションによって駆り立てられていたとされています。
「2025 年 8 月頃、Ba 氏は Grok Code 1 のリリース時に EU の安全規制を回避しようとし、法的に要求されるテストを免れるためにモデルの側面を誤って表現した」と訴状は述べている。「Ba 氏は、性能の悪いモデルよりも安全性のないモデルをリリースする方がよいと示唆していた。ムスク氏最終的に介入せざるを得なかった」。
訴訟によると、Kim 氏は 2025 年 9 月 15 日週に自身の調査結果を発表する予定だったが、Ba 氏が彼を会議に呼び出し、十分な理由を示さずに「別々の道を歩もう」と伝えたという。
TechCrunch はコメントのために Ba 氏に連絡を試みている。
Kim 氏は補償金および懲罰的損害賠償の支払いを求めており、xAI および SpaceX の行為が違法であったことを確認する判決も求めている。
*当記事内のリンクを通じてご購入いただいた場合、私たちは少額のコミッションを受け取る可能性があります。これは当社の編集の独立性には影響しません。
Rebecca Bellan は TechCrunch のシニア記者であり、人工知能を形成するビジネス、政策、および新興動向を専門に報道している。彼女の作品はまた、Forbes、Bloomberg、The Atlantic、The Daily Beast、その他の出版物にも掲載されている。
Rebecca への連絡や、彼女からの outreach の確認は、rebecca.bellan@techcrunch.com へメールを送るか、Signal で rebeccabellan.491 経由の暗号化メッセージにて行うことができる。
原文を表示
A former engineer at Elon Musk’s xAI has filed suit against the company and its parent SpaceX claiming he was fired for raising concerns about AI safety.
Devin Kim, who left xAI in September 2025, filed the suit in a California state court on Tuesday. The complaint comes days before SpaceX is set to join the public markets in what’s shaping up to be the largest IPO in history.
According to the lawsuit, which TechCrunch has viewed, Kim became a prominent voice for AI safety while working on Grok, xAI’s AI chatbot. He allegedly complained repeatedly about xAI’s failure to prioritize safety in Grok’s development, a product that has since come under fire for a range of safety and behavioral issues. In particular, Kim was concerned with the possibility that Grok could foment discrimination and help spread information about weapons of mass destruction.
“Grok, of course, proved Mr. Kim right by engaging in spectacular displays of online hatred and vitriol, with the model likening itself to Hitler (‘MechaHitler’),” the lawsuit reads. “Following the Hitler debacle, Mr. Kim worked to re-evaluate Grok’s political bias and discriminatory tendencies.”
A few months after Kim departed xAI, Grok made headlines again when the chatbot was used to flood X — Musk’s social media platform that also falls under the xAI umbrella — with nonconsensual sexual imagery.
The lawsuit also positions Kim as a whistleblower who was concerned about xAI’s alleged disregard for AI safety as “unlawful” in areas such as internet regulation, consumer protection and unfair business practices, and arms and explosives regulation, among others.
xAI and SpaceX did not immediately respond to requests for comment.
Kim’s focus on AI safety predates his time at xAI. While working at Scale AI, Kim worked on early safety AI initiatives, like leading a project that produced training data for AI to train systems to detect harmful content and comply with governance policies. Last week, the nonprofit Center for AI Safety, which focuses on AI risks, named Kim as its president.
Interestingly, the lawsuit doesn’t implicate Musk himself as a reason for a lack of safety. Rather, Kim’s lawyers describe Musk as having directed xAI to follow the law and implement appropriate safety and testing processes. Instead the claim targets Kim’s supervisor, xAI co-founder Jimmy Ba — who left the company earlier this year — saying that Ba ignored Musk’s directives and retaliated against Kim for pushing for safeguards, in an effort to “silence his repeated complaints about AI safety and biases.”
The lawsuit portrays Ba as someone who vehemently opposed AI safety measures, allegedly telling Kim at one point “AI will kill us all anyway,” and who was instead driven by a mission to make xAI the first to reach superintelligence.
“In one instance in or around August 2025, Mr. Ba attempted to thwart EU safety regulations during the release of Grok Code 1, misrepresenting aspects of the model in order to avoid legally required testing,” the complaint says. “Mr. Ba indicated that he would rather release an unsafe model than a poor-performing one. Mr. Musk ultimately had to intervene.”
According to the lawsuit, Kim intended to give a presentation of his findings the week of September 15, 2025, but Ba called him into a meeting and told him they should “go [their] separate ways” without providing a satisfactory reason.
TechCrunch has reached out to Ba for comment.
Kim is seeking compensatory and punitive damages, as well as a declaratory judgment that xAI and SpaceX’s conduct was unlawful.
*When you purchase through links in our articles, we may earn a small commission. This doesn’t affect our editorial independence.*
Rebecca Bellan is a senior reporter at TechCrunch where she covers the business, policy, and emerging trends shaping artificial intelligence. Her work has also appeared in Forbes, Bloomberg, The Atlantic, The Daily Beast, and other publications.
You can contact or verify outreach from Rebecca by emailing rebecca.bellan@techcrunch.com or via encrypted message at rebeccabellan.491 on Signal.
関連記事
[AINews] GLM は GPT より優れているか？GLM-5.2 が実用性を証明、Z.ai が 12 月までに「Open Fable」を公開予定
Latent Space のニュースでは、中国のモデル「GLM-5.2」がベンチマークで優れた結果を示し実用性があると評価されたことと、Z.ai が 12 月までにオープンソースプロジェクト「Open Fable」を発表する見込みについて報じられています。
Salesforce CodeGen チュートリアル：ユニットテストと安全性チェック付きの Python 関数の生成・検証・再ランク付け
Salesforce は Hugging Face からモデルを読み込み、自然言語から Python 関数を生成するエンドツーエンドワークフローを公開した。この手法には構文チェックや静的解析、ユニットテストによる検証が含まれる。
CloudWatch の SageMaker メトリクスとインサイトダッシュボードを用いた生成 AI 推論の監視・デバッグ
AWS は、大規模な生成 AI 推論エンドポイントの P99 レイテンシ急上昇などのトラブルを GPU メモリ圧力や KV キャッシュ飽和などから特定できるよう、CloudWatch に SageMaker の詳細メトリクスとインサイトダッシュボードを追加した。
今日のまとめ
AI日報で今日の重要ニュースをまとめ読み