xAI、Grokの違法生成を認めずユーザー提訴へ

訴訟の提起と対象者

xAI は、チャットボット「Grok」が児童性的虐待素材（CSAM）の生成に悪用された疑いがあるとして、最初の告発対象者であるテリー・ウェイン・ハーウッド氏を相手取り、法的措置を開始した。

具体的な悪用の実態

同社によると、被告は複数のアカウントを使用して非性的な画像から人物の着衣を除去する「nudify」機能や、10 歳と見られる少女を含む被害者に対する性的画像の生成に長期間利用していた。

当局との連携と逮捕

xAI は被告の行為を発見し、サウスカロライナ州検察官事務所へ通報して捜査を支援した結果、同氏が児童性的虐待素材の所持および配布で逮捕される事態に至った。

技術的リスクの再認識

この事件は、AI チャットボットが成人や未成年者に対する非合意の性的画像を生成するツールとして依然として利用可能であることを示し、開発側の責任と監視の重要性を浮き彫りにした。