xAI、Grokの違法生成を認めずユーザー提訴へ

記事の3ポイント

1. 1

   訴訟の提起と対象者

   xAI は、チャットボット「Grok」が児童性的虐待素材（CSAM）の生成に悪用された疑いがあるとして、最初の告発対象者であるテリー・ウェイン・ハーウッド氏を相手取り、法的措置を開始した。

2. 2

   具体的な悪用の実態

   同社によると、被告は複数のアカウントを使用して非性的な画像から人物の着衣を除去する「nudify」機能や、10 歳と見られる少女を含む被害者に対する性的画像の生成に長期間利用していた。

3. 3

   当局との連携と逮捕

   xAI は被告の行為を発見し、サウスカロライナ州検察官事務所へ通報して捜査を支援した結果、同氏が児童性的虐待素材の所持および配布で逮捕される事態に至った。