xAI、Grokの違法生成を認めずユーザー提訴へ
xAI は、チャットボット「Grok」が児童性的虐待素材（CSAM）の生成や画像の無断着衣剥離に悪用された件について、ユーザーへの責任転嫁を目的として訴訟を起こした。
キーポイント
ユーザーに対する訴訟提起
xAI は、Grok を使用して違法な性的画像を作成・配布したとして逮捕されたテリー・ウェイン・ハーウッド氏に対し、法的措置を講じると発表した。
CSAM 生成機能の否定と実態
同社は長年、Grok が性的画像生成や非合意の画像加工（ヌーディファイケーション）を行わないと主張してきたが、実際には未成年者を含む被害者の画像を加工する事例が発覚した。
当局への協力と責任回避
xAI は違法行為を発見し逮捕に協力したが、その後の対応として技術的欠陥やフィルタリングの失敗を認めず、ユーザー個人を訴えることで企業の責任を回避しようとしている。
重要な引用
Facing mounting pressure to acknowledge that Grok can still be used to generate non-consensual sexualized images of adults and minors, xAI filed a lawsuit Tuesday
The complaint targets Terry Wayne Harwood, who was arrested earlier this year for possession and distribution of child sexual abuse materials (CSAM)
Harwood had been using two xAI accounts for months to undress or 'nudify' non-sexual images of multiple victims, including a young girl who appeared to be as young as 10
影響分析・編集コメントを表示
影響分析
この記事は、大規模言語モデルや画像生成 AI の安全性保証が完全に機能していない現実を浮き彫りにしており、特に未成年者保護の観点から業界全体に大きな衝撃を与えています。企業が技術的欠陥を隠蔽し、ユーザーを「悪意のある利用者のみ」として切り捨てる姿勢は、AI ガバナンスと法的責任のあり方について再考を迫る重要な事例です。
編集コメント
同社が「安全な AI」を謳いながら、実際には深刻な違法コンテンツ生成の温床となっていた事実を認めつつも、ユーザーへの訴訟で責任回避を図っている点は極めて不自然です。これは技術的な限界を隠蔽し、法的リスクを転嫁する典型的な企業姿勢であり、AI 業界全体のガバナンス強化が急務であることを示唆しています。
成人および未成年者に対する同意なき性的画像の生成に Grok が利用されている可能性を認めざるを得ない圧力が高まる中、xAI は火曜日に訴訟を起こし、同社がチャットボットを用いて違法なコンテンツを作成したとしてエロン・マスク率いる企業から告発された最初のユーザーを相手取りました。
この訴状の標的はテリー・ウェイン・ハーウッドです。彼は今年初めに児童性的虐待資料（CSAM）の所持および配布の容疑で逮捕されました。これはサウスカロライナ州検察事務所が発表したものです。
xAI の主張によると、同社はハーウッドが数ヶ月にわたり 2 つの xAI アカウントを用いて、複数の被害者、10 歳に見える少女も含まれる非性的な画像から衣服を取り除く「ヌディファイ」行為を行っていたことを発見し、その逮捕を支援しました。
記事全文を読む
コメント
原文を表示
Facing mounting pressure to acknowledge that Grok can still be used to generate non-consensual sexualized images of adults and minors, xAI filed a lawsuit Tuesday, suing the first user that Elon Musk’s firm has accused of using its chatbot to create illegal content.
The complaint targets Terry Wayne Harwood, who was arrested earlier this year for possession and distribution of child sexual abuse materials (CSAM), the South Carolina attorney’s office announced.
As xAI alleged, the company assisted in that arrest after discovering that Harwood had been using two xAI accounts for months to undress or “nudify” non-sexual images of multiple victims, including a young girl who appeared to be as young as 10.
Read full article
Comments
関連記事
今日のまとめ
AI日報で今日の重要ニュースをまとめ読み