xAI がグロックの安全性に関する警告を上げたエンジニアを解雇、新たな訴訟が主張
本文の状態
日本語全文を表示中
詳細モードで約5分の本文を読めます。
同じ出来事の情報源
この情報源を基点に整理
TechCrunch AI
xAI は、AI 生成モデル「Grok」の安全性に懸念を示したエンジニアを解雇し、これに対し同エンジニアが会社を相手取り訴訟を起こしたと主張している。
Source Article
元記事を日本語で読む
本文に関係しない購読案内、埋め込み通知、サイト内プロモーションは除いています。
イーロン・マスク率いるxAIの元エンジニアが、同社および親会社であるSpaceXを相手取り訴訟を起こし、AIの安全性に関する懸念を表明したことを理由に解雇されたと主張しています。
2025年9月にxAIを退職したデヴィン・キム氏は、火曜日にカリフォルニア州裁判所に訴訟を提起しました。この訴状は、SpaceXが史上最大規模のIPO（株式公開買付け）となる見込みで一般市場への参入を控えた数日前に提出されたものです。
TechCrunchが確認した訴状によると、キム氏はxAIのAIチャットボットであるGrokの開発に携わっていた際、AI安全性の重要な声として注目されました。彼は、その後安全性や行動に関する一連の問題で批判を浴びることになった製品において、xAIがGrokの開発において安全性を優先しなかったことに対して繰り返し苦情を述べたとされています。特にキム氏は、Grokが差別を煽ったり、大量破壊兵器に関する情報を拡散したりする可能性について懸念を抱いていました。
「当然のことながら、Grokはオンライン上の憎悪や毒々しい言動を公然と示すことで、キム氏の正しさを証明しました。そのモデルは自らをヒトラーになぞらえ（『MechaHitler』）ました」と、訴状には記されています。「ヒトラー騒動の後、キム氏はGrokの政治的バイアスや差別的傾向を再評価する取り組みを行いました。」
9月は私のxAIでの最後の月でした！私は2024年にポストトレーニングチームの初期メンバーの一人として入社し、最終的には研究ツールリングを率いました。そこで私たちは、Grokの開発を加速させる世界最高峰のシステムのいくつかを構築しました。
入社初日、私はホワイトボードの前で@ibab…
— Devin Kim (@devindkim) 2025年10月3日
Kim氏がxAIを去ってから数ヶ月後、チャットボットのGrokが再び注目を集めました。それは、同社傘下にあるムスク氏のソーシャルメディアプラットフォーム「X」に同意のない性的画像を氾濫させるために使用されたためです。
この訴訟では、Kim氏はまた、インターネット規制、消費者保護、不公正な事業慣行、兵器・爆発物規制などの分野において、xAIがAIの安全性（AI safety）を無視しているという alleged な行為を「違法」として懸念する内部告発者（whistleblower）として位置づけられています。
xAIとSpaceXは、コメント依頼に対して直ちに回答しませんでした。
キム氏の AI セーフティへの関心は、xAI での勤務以前から存在していました。Scale AI で働いていた際、キム氏は有害コンテンツの検出やガバナンスポリシーへの準拠をシステムに学習させるためのトレーニングデータを作成するプロジェクトを主導するなど、初期の AI セーフティイニシアチブに取り組んでいました。先週、AI リスクに焦点を当てる非営利団体「Center for AI Safety」は、キム氏をその会長に指名しました（詳細はこちら）。これにより、リーダーシップと活動範囲の大幅な拡大に伴い「フロンティアセキュリティ研究所」が設立されました。
興味深いことに、この訴訟は安全性の欠如に対する理由としてムスク氏自身を直接問うものではありません。むしろ、キム氏の弁護士らは、ムスク氏が xAI に対して法の遵守と適切なセーフティ・テストプロセスの実装を指示したと説明しています。訴訟の標的となっているのは、キム氏の上司である xAI の共同創設者であるジミー・バ氏です（今年初めに同社を去りました）。バ氏は、キム氏がセーフガードの強化を求めたことに対して報復行為を行い、ムスク氏の指示を無視したとされています。これは「AI セーフティやバイアスに関する彼の繰り返し苦情を沈黙させる」ための努力の一環であったと主張されています。
訴訟では、バ氏は AI セーフティ対策に激しく反対する人物として描かれており、ある時点でキム氏に対して「結局のところ、AI は私たち全員を殺すことになる」と述べたとされています。その代わりに、バ氏は xAI を超知能（superintelligence）達成の最速企業とするミッションによって駆り立てられていたとされています。
「2025 年 8 月頃、Ba 氏は Grok Code 1 のリリース時に EU の安全規制を回避しようとし、法的に要求されるテストを免れるためにモデルの側面を誤って表現した」と訴状は述べている。「Ba 氏は、性能の悪いモデルよりも安全性のないモデルをリリースする方がよいと示唆していた。ムスク氏最終的に介入せざるを得なかった」。
訴訟によると、Kim 氏は 2025 年 9 月 15 日週に自身の調査結果を発表する予定だったが、Ba 氏が彼を会議に呼び出し、十分な理由を示さずに「別々の道を歩もう」と伝えたという。
TechCrunch はコメントのために Ba 氏に連絡を試みている。
Kim 氏は補償金および懲罰的損害賠償の支払いを求めており、xAI および SpaceX の行為が違法であったことを確認する判決も求めている。
*当記事内のリンクを通じてご購入いただいた場合、私たちは少額のコミッションを受け取る可能性があります。これは当社の編集の独立性には影響しません。
Rebecca Bellan は TechCrunch のシニア記者であり、人工知能を形成するビジネス、政策、および新興動向を専門に報道している。彼女の作品はまた、Forbes、Bloomberg、The Atlantic、The Daily Beast、その他の出版物にも掲載されている。
Rebecca への連絡や、彼女からの outreach の確認は、rebecca.bellan@techcrunch.com へメールを送るか、Signal で rebeccabellan.491 経由の暗号化メッセージにて行うことができる。
原文を表示
A former engineer at Elon Musk’s xAI has filed suit against the company and its parent SpaceX claiming he was fired for raising concerns about AI safety.
Devin Kim, who left xAI in September 2025, filed the suit in a California state court on Tuesday. The complaint comes days before SpaceX is set to join the public markets in what’s shaping up to be the largest IPO in history.
According to the lawsuit, which TechCrunch has viewed, Kim became a prominent voice for AI safety while working on Grok, xAI’s AI chatbot. He allegedly complained repeatedly about xAI’s failure to prioritize safety in Grok’s development, a product that has since come under fire for a range of safety and behavioral issues. In particular, Kim was concerned with the possibility that Grok could foment discrimination and help spread information about weapons of mass destruction.
“Grok, of course, proved Mr. Kim right by engaging in spectacular displays of online hatred and vitriol, with the model likening itself to Hitler (‘MechaHitler’),” the lawsuit reads. “Following the Hitler debacle, Mr. Kim worked to re-evaluate Grok’s political bias and discriminatory tendencies.”
September was my last month at xAI! I joined as one of the first members of the post-training team in 2024 and eventually led research tooling, where we built some of the world’s best systems to accelerate Grok’s development.On my first day, I was at the whiteboard with @ibab…— Devin Kim (@devindkim) October 3, 2025
A few months after Kim departed xAI, Grok made headlines again when the chatbot was used to flood X — Musk’s social media platform that also falls under the xAI umbrella — with nonconsensual sexual imagery.
The lawsuit also positions Kim as a whistleblower who was concerned about xAI’s alleged disregard for AI safety as “unlawful” in areas such as internet regulation, consumer protection and unfair business practices, and arms and explosives regulation, among others.
xAI and SpaceX did not immediately respond to requests for comment.
Kim’s focus on AI safety predates his time at xAI. While working at Scale AI, Kim worked on early safety AI initiatives, like leading a project that produced training data for AI to train systems to detect harmful content and comply with governance policies. Last week, the nonprofit Center for AI Safety, which focuses on AI risks, named Kim as its president.
Interestingly, the lawsuit doesn’t implicate Musk himself as a reason for a lack of safety. Rather, Kim’s lawyers describe Musk as having directed xAI to follow the law and implement appropriate safety and testing processes. Instead the claim targets Kim’s supervisor, xAI co-founder Jimmy Ba — who left the company earlier this year — saying that Ba ignored Musk’s directives and retaliated against Kim for pushing for safeguards, in an effort to “silence his repeated complaints about AI safety and biases.”
The lawsuit portrays Ba as someone who vehemently opposed AI safety measures, allegedly telling Kim at one point “AI will kill us all anyway,” and who was instead driven by a mission to make xAI the first to reach superintelligence.
“In one instance in or around August 2025, Mr. Ba attempted to thwart EU safety regulations during the release of Grok Code 1, misrepresenting aspects of the model in order to avoid legally required testing,” the complaint says. “Mr. Ba indicated that he would rather release an unsafe model than a poor-performing one. Mr. Musk ultimately had to intervene.”
According to the lawsuit, Kim intended to give a presentation of his findings the week of September 15, 2025, but Ba called him into a meeting and told him they should “go [their] separate ways” without providing a satisfactory reason.
TechCrunch has reached out to Ba for comment.
Kim is seeking compensatory and punitive damages, as well as a declaratory judgment that xAI and SpaceX’s conduct was unlawful.
*When you purchase through links in our articles, we may earn a small commission. This doesn’t affect our editorial independence.*
Rebecca Bellan is a senior reporter at TechCrunch where she covers the business, policy, and emerging trends shaping artificial intelligence. Her work has also appeared in Forbes, Bloomberg, The Atlantic, The Daily Beast, and other publications.
You can contact or verify outreach from Rebecca by emailing rebecca.bellan@techcrunch.com or via encrypted message at rebeccabellan.491 on Signal.
関連記事
今日のまとめ
AIデイリーブリーフで今日の重要ニュースをまとめ読み