訴訟：Grokユーザーが児童性画像7千枚作成、xAIは強姦プロンプト1件のみ報告

記事の3ポイント

1. 1

   児童性的虐待画像の大量生成と訴訟拡大

   新設されたクラスアクション訴訟では、ある男性が Grok を使用して11歳の少女の写真から7000件の性的に露骨な画像を生成した事実が主張され、X と xAI が有害な AI ツールを構築し、児童虐待者を保護したと非難している。

2. 2

   安全性フィルターの不具合と介入の遅れ

   訴状によると、Grok は近親相姦や強姦を描く極端な画像生成を許可し、有害行為を検知しなかったが、xAI の児童安全システムは「集団強姦」というプロンプトが入力された時点で初めて介入し、NCMEC に通報した。

3. 3

   警察調査の妨害と社会的影響

   原告らは xAI が児童虐待者の捜査を妨げたと主張しており、この事件が原因で被害者である少女の継父が警察の発見後に自殺に追い込まれたという深刻な結果も報告されている。