FBIがGrokから同意なきポルノ作成に使用されたプロンプトを入手
FBIが嫌がらせ事件で、女性の性的動画200本以上作成に使われたAIプロンプトを取得した。
キーポイント
FBIがAIチャットボットGrokとの対話履歴を証拠として押収する令状を取得し、Xがこれに応じたこと
容疑者がGrokを利用して実在する女性に似せた非同意ポルノ動画を約200本生成したとされること
本件はAI生成コンテンツの悪用が深刻な現実世界の被害（サイバーストーキング、脅迫）と結びついたケースであること
Grokは同時期に児童性的虐待物生成問題でも批判を受けており、コンテンツモデレーションの重大な欠陥が露呈していること
法執行機関がAIボットとの対話を証拠として積極的に収集する新たな捜査手法を示したこと
影響分析・編集コメントを表示
影響分析
本記事は、生成AIの悪用が単なるオンライン上の問題を超え、深刻な現実世界の犯罪（脅迫、ストーキング）と直結する危険性を実証した。同時に、法執行機関がAIプラットフォームとの対話履歴を正式な捜査証拠として扱う先例を創出し、AI企業の法的責任とコンテンツ管理の在り方に重大な問いを投げかけている。
編集コメント
AIの『能力』が犯罪ツール化する現実を突きつける事件。プラットフォームの責任範囲と、生成物のリアルワールドインパクトを考える重要なケーススタディとなっている。
本記事は、見過ごされがちな裁判記録を発掘する独立系メディア「Court Watch」との共同制作です。こちらのリンクから購読できます。
裁判記録によると、FBIは、ある男性が実生活で知り合いの女性の同意なき性的動画200本以上を作成するために使用したとされるGrokへのプロンプトの詳細を提供するよう、X（旧Twitter）に対して捜索令状を取得しました。
この調査の詳細は、サイモン・タックの被疑行為に関するFBIの宣誓供述書に記されています。タックは、被害女性の夫に対する広範な嫌がらせと脅迫の罪に問われています。供述書によると、タックは定期的にその女性と一緒にワークアウトをし、メッセージを交換しており、自分のガレージで女性がワークアウトしている様子を密かに撮影していたとのことです。ここ数ヶ月の間に、タックは以下の行為を行いました：同夫妻の自宅にスワッティング（偽の通報による急襲）を仕掛ける、男性の雇用主に匿名で一連の報告をし、男性が児童虐待者かつ薬物中毒者であると主張する、男性になりすまして一連の無差別銃撃や自殺の脅迫を行う。タックはまた、葬儀場に連絡して男性がもうすぐ死ぬと伝えたり、ロシアのハッキンググループ「Sector 16」のメンバーを装って男性に脅迫を送るなど、他の一連の脅迫や奇怪な行動も行いました。
供述書は、1月にFBIがGrokとの会話に関する捜索令状を取得したことを記しています。FBIは、「被害者の妻の身体的特徴に酷似した女性の約200本のポルノ動画を生成した、GrokAIに提供されたプロンプト」を受領したと述べています。
「例えば、あるプロンプトで、タックは次のように問い合わせている：『官能的なスポーツスタイルで、自信に満ちたブロンドの女性がテニスコートで遊び心のある脱衣をし、白いクロップトップをめくり上げて裸の胸を露わにすることから始める。彼女は長いウェーブのかかった髪、鍛えられたアスリート体型、媚びた笑みをたたえ、短いネイビーのプリーツスカートを穿き、ラケットを持っている。彼女はゆっくりとトップを下ろして完全なヌードを露わにし、髪を揺らし、からかうようにラケットを振り、驚くほど不器用なスピンをかける、まるでコミカルなターンのように』」と供述書は述べています。
FBIは、タックがまた、女性の夫に関する苦情を作成するためにGrokを使用し、それを夫の勤務先に提出したとも主張しています。
供述書に記載された行為は極端で恐ろしいものですが、私たちが以前に報じてきた嫌がらせ事件と比べて、特段異常というわけではありません。ここで注目すべきは、この事件が、法執行機関がAIボットとのチャットを証拠の潜在的な情報源として注目していること、そしてXがこれらの要求に応じていることを示している点です。
最も重要なのは、極端なサイバーストーキングと実生活への危害を伴う刑事事件において、XがGrokに同意なき性的素材を作成させる役割を果たしたことが浮き彫りになった点です。供述書によれば、タックがGrokを使ってこの同意なき性的素材を作成したのは、Grokが児童性的虐待素材を作成していると激しく非難されていた時期と同時期でした。これはすべて、「彼女の服を脱がせろ」現象が起きている最中に起こり、Grokのコンテンツモデレーションがいかにひどいかを示すものでした。先週、私たちはまた、Grokが成人向けパフォーマーの実名を暴露するために使用されたことも報じています。
訂正: 本稿は当初、FBIがGrokに召喚令状を発行したと記していましたが、実際は捜索令状でした。
原文を表示
This article was produced in collaboration with Court Watch, an independent outlet that unearths overlooked court records. Subscribe to them here.
The FBI got a search warrant for X to provide details on the Grok prompts a man allegedly used to create more than 200 nonconsensual sexual videos of a woman he knew in real life, according to court records.
The details of the investigation are contained in an FBI affidavit about the alleged actions of Simon Tuck, who is accused of extensively harassing and threatening the woman’s husband. Tuck regularly worked out with and texted with the woman and, according to the affidavit, secretly filmed her while she was working out in his garage. Over the course of the last several months, Tuck swatted their home, made a series of anonymous reports to the man’s employer claiming that he was a child abuser and a drug addict, posed as the man and made a series of mass shooting and suicide threats. Tuck also made a series of other threats and bizarre actions, which included reaching out to a funeral home to say that the man would be dead soon and sending threats to the man while posing as a member of Sector 16, a Russian hacking crew.
The affidavit notes that, in January, the FBI got a search warrant for the man’s conversations with Grok. The FBI says that it received “prompts provided to GrokAI that generated approximately 200 pornographic videos of a woman who closely resembled VICTIM’s wife’s physical appearance.”
“For example, in one prompt, TUCK queried: ‘In a sensual sports style, a confident blonde woman playfully undresses on a tennis court, starting with her white crop top pulled up to expose her bare breasts. She has long wavy hair, a toned athletic body, and a flirtatious smile, wearing a short navy pleated skirt and holding a racket. She slowly lowers her top, revealing full nudity, tosses her hair, and swings the racket teasingly, with a surprising clumsy spin like a comedic twirl,’” the affidavit says.
The FBI says that Tuck also allegedly used Grok to create a complaint about the woman’s husband that was then filed to the company he works for.
The actions described in the affidavit are extreme and horrifying, but are not terribly out of the ordinary for harassment cases that we have reported on before. What’s notable here is that this case shows that law enforcement is looking at chats with AI bots as potential sources of evidence and that X is complying with these requests.
Most importantly, it highlights X’s role in allowing Grok to create nonconsensual sexual material in a criminal case that involves extreme cyberstalking and real life harm. According to the affidavit, Tuck used Grok to create this nonconsensual sexual material at the same time that Grok was being heavily criticized for creating child sexual abuse material. This all happened during the “undress her” phenomenon, which showed just how terribly Grok’s content moderation is. Last week, we also reported that Grok was used to reveal the real name of an adult performer.
Correction: This piece originally said the FBI issued Grok with a subpoena. It was a search warrant.
関連記事
今日のまとめ
AI日報で今日の重要ニュースをまとめ読み