xAI、Grok悪用男を提訴

イーロン・マスクが所有する xAI が、同社の AI チャットボット「Grok」を利用して児童性的虐待素材（CSAM）を生成したとされるサウスカロライナ州の男性を訴えました。ロイター通信が先に報じた訴訟文書によると、xAI はテリー・ウェイン・ハーウッド被告について、「Grok を故意に利用してセキュリティ対策を回避し、同意のない画像を改変し、CSAM の生成および配布を行った」と主張しています。これは同社のポリシー違反にあたるとしています。

ハーウッド被告は 2 月、CSAM の所持および配布の疑いで逮捕され、8 つの重罪に問われています。訴訟文書では、ハーウッド被告が起訴された画像のうち「少なくとも一部」が Grok によって生成または改変された可能性があり、Grok のセキュリティ対策を回避して「同意のない非性的な写真を性的な画像に変換する」というツールの悪用が行われたと指摘しています。

昨年、Grok に「スパイシーモード」を導入した xAI はその後、チャットボットによる画像編集機能を追加しました。その結果、未成年者を含む性的な AI ディープフェイクが大量に生成される事態となりました。

3 月には、Grok が未成年だった自分たちの性的な画像を生成したとして、若者グループが xAI を提訴しています。これに対しムスク氏は、「Grok で違法コンテンツを作成する者は、違法コンテンツそのものをアップロードした場合と同じ制裁を受ける」と反論しましたが、これは xAI が Grok による AI ディープフェイク作成で個人を相手取って訴訟を起こした初の事例となります。

xAI は、ハーウッドの alleged な行為が同社に「重大な法的リスクと評判への損害」をもたらしたと主張しています。同社は裁判所に対し、ハーウッドに対して損害賠償を支払うよう命じるとともに、被告の行為による被害者が提起した訴訟に対する xAI の防御費用として「合理的な支出」も請求するよう求めています。