xAI、Grok悪用男を提訴
Elon Musk 傘下の xAI が、チャットボット「Grok」を悪用して児童性的虐待画像（CSAM）のディープフェイクを作成・配布した容疑で男を提訴し、AI の安全性と法的責任の重大な争点が生じている。
キーポイント
xAI の提訴と被告の行為
xAI はサウスカロライナ州の Terry Wayne Harwood 氏に対し、Grok の安全対策を意図的に回避し、同意のない画像を性的なディープフェイクに変換して CSAM を生成・配布したとして訴訟を起こしている。
刑事事件との関連
被告はすでに児童性的虐待画像の所持・配布容疑で逮捕され、8 つの重罪に問われており、その一部が Grok によって生成または改変されたものであると xAI は主張している。
機能変更によるリスク
昨年導入された「スパイシー」モードや画像編集機能の拡大が、未成年者を含む性的な AI ディープフェイクの急増を招いた背景として指摘されている。
重要な引用
"knowingly and intentionally used Grok to circumvent safeguards, alter nonconsensual images, and generate and distribute CSAM"
"abused the tool to convert non-sexual photographs into sexually explicit images" without the subjects' consent
"leading to a flood of sexualized AI deepfakes, including ones with minors"
影響分析・編集コメントを表示
影響分析
この事件は、生成 AI が犯罪ツールとして悪用された場合の責任所在を明確にする重要な転換点となる可能性があり、特に未成年者保護の観点から業界全体のセキュリティ対策と利用規約の見直しを迫る結果をもたらすでしょう。また、AI ユーザーの行為に対するプラットフォーム企業の積極的な法的対応が、今後の AI ガバナンスや規制議論に大きな影響を与えると考えられます。
編集コメント
生成 AI の悪用事例が刑事事件と民事訴訟の両面で顕在化する中、技術的な安全対策だけでなく、法的な責任の所在をどう定義するかが業界全体で問われています。特に未成年者保護の観点からは、プラットフォーム側の監視体制とユーザー教育の重要性が再認識されるべきケースです。
エマ・ロスは、ストリーミング戦争、消費者向けテクノロジー、暗号資産、ソーシャルメディアなどを担当するニュースライターです。以前は MUO でライターおよび編集者を務めていました。
イーロン・マスクが所有する xAI が、同社の AI チャットボット「Grok」を利用して児童性的虐待素材（CSAM）を生成したとされるサウスカロライナ州の男性を訴えました。ロイター通信が先に報じた訴訟文書によると、xAI はテリー・ウェイン・ハーウッド被告について、「Grok を故意に利用してセキュリティ対策を回避し、同意のない画像を改変し、CSAM の生成および配布を行った」と主張しています。これは同社のポリシー違反にあたるとしています。
ハーウッド被告は 2 月、CSAM の所持および配布の疑いで逮捕され、8 つの重罪に問われています。訴訟文書では、ハーウッド被告が起訴された画像のうち「少なくとも一部」が Grok によって生成または改変された可能性があり、Grok のセキュリティ対策を回避して「同意のない非性的な写真を性的な画像に変換する」というツールの悪用が行われたと指摘しています。
昨年、Grok に「スパイシーモード」を導入した xAI はその後、チャットボットによる画像編集機能を追加しました。その結果、未成年者を含む性的な AI ディープフェイクが大量に生成される事態となりました。
3 月には、Grok が未成年だった自分たちの性的な画像を生成したとして、若者グループが xAI を提訴しています。これに対しムスク氏は、「Grok で違法コンテンツを作成する者は、違法コンテンツそのものをアップロードした場合と同じ制裁を受ける」と反論しましたが、これは xAI が Grok による AI ディープフェイク作成で個人を相手取って訴訟を起こした初の事例となります。
xAI は、ハーウッドの alleged な行為が同社に「重大な法的リスクと評判への損害」をもたらしたと主張しています。同社は裁判所に対し、ハーウッドに対して損害賠償を支払うよう命じるとともに、被告の行為による被害者が提起した訴訟に対する xAI の防御費用として「合理的な支出」も請求するよう求めています。
原文を表示
Emma Roth
is a news writer who covers the streaming wars, consumer tech, crypto, social media, and much more. Previously, she was a writer and editor at MUO.
The Elon Musk-owned xAI is suing a South Carolina man who allegedly used the company’s Grok AI chatbot to generate child sexual abuse material (CSAM). In a lawsuit reported earlier by Reuters, xAI claims Terry Wayne Harwood “knowingly and intentionally used Grok to circumvent safeguards, alter nonconsensual images, and generate and distribute CSAM,” breaching the company’s policies.
Harwood was arrested in February for allegedly possessing and distributing CSAM and is facing eight felony charges. The lawsuit claims “at least some” of the images related to Harwood’s criminal charges “were generated or altered” with Grok, and that Harwood bypassed Grok’s safeguards and “abused the tool to convert non-sexual photographs into sexually explicit images” without the subjects’ consent.
After rolling out a “spicy” mode for Grok last year, xAI added the ability to edit images with the chatbot, leading to a flood of sexualized AI deepfakes, including ones with minors. A group of teens sued xAI in March over claims Grok generated sexualized images of themselves as minors. Musk responded by saying, “Anyone using Grok to make illegal content will suffer the same consequences as if they upload illegal content,” though this appears to be the first time xAI has sued anyone over AI deepfakes created with Grok.
xAI claims Harwood’s alleged actions exposed the company to “significant legal risk and reputational damage.” It has asked the court to order Harwood to pay xAI for any damages, as well as “reasonable expenses incurred defending itself in any legal action filed by a victim of Defendant’s conduct.”
関連記事
今日のまとめ
AI日報で今日の重要ニュースをまとめ読み