xAI、Grok悪用男を提訴

記事の3ポイント

1. 1

   訴訟の提起と被告の行為

   xAIはサウスカロライナ州のテリー・ウェイン・ハーウッドに対し、Grokの安全対策を意図的に回避し、非同意画像を性的に露骨な画像に変換してCSAMを作成・配布したとして訴訟を起こしている。

2. 2

   刑事事件との関連性

   被告であるハーウッドは2月にCSAMの所持および配布で逮捕され8つの重罪に問われているが、訴訟ではその画像の一部がGrokによって生成または改変された可能性を指摘している。

3. 3

   機能変更とリスクの背景

   xAIは昨年「スパイシー」モードを導入し、チャットボットによる画像編集機能を追加したが、これが未成年者を含む性的なAIディープフェイクの急増を招いたと記事は指摘している。