OpenAIが警察通報を検討したカナダ銃乱射事件容疑者のチャット記録
OpenAIは、カナダ銃乱射事件容疑者の18歳女性がChatGPTで銃暴力を記述したチャットを検知し、警察通報を検討した上でアカウントを停止した。
キーポイント
OpenAIのChatGPTがカナダの銃乱射事件容疑者に使用され、暴力描写の会話が検知された
OpenAIは警察への通報を検討したが基準を満たさず見送り、事件後に情報提供した
LLMの悪用リスクとプラットフォーム責任に関する法的・倫理的議論が再燃している
容疑者はRobloxでの銃乱射シミュレーションゲーム作成など複数のデジタル痕跡を残していた
AIチャットボットがユーザーの精神状態に悪影響を与える可能性が訴訟で指摘されている
影響分析・編集コメントを表示
影響分析
この記事はAIプラットフォームのコンテンツモデレーションと社会的責任の境界線に関する重要な事例を示している。OpenAIのような主要企業が暴力関連コンテンツを検知しながらも通報判断に苦慮した経緯は、AI業界全体のガバナンスフレームワークの不備を浮き彫りにしており、今後の規制議論に影響を与える可能性が高い。
編集コメント
AI企業の社会的責任と法的判断の狭間で生じた実例は、業界全体のガイドライン策定の緊急性を強く示唆している。
OpenAI、カナダの銃乱射事件容疑者のチャットを巡り警察通報を検討
カナダのタンブラーリッジで発生した銃乱射事件で8人の殺害に関与したとされる18歳の人物が、OpenAIのChatGPTを同社スタッフを警戒させる方法で使用していたと報じられている。
ジェシー・ヴァン・ルーツェラーが銃暴力を描写するチャットは、同社の大規模言語モデル（LLM）の悪用を監視するツールによってフラグが立てられ、そのアカウントは2025年6月に利用禁止処分となった。
ウォール・ストリート・ジャーナル紙によると、同社スタッフはこの行為についてカナダの法執行機関に連絡するかどうか議論したが、最終的には連絡しなかった。OpenAIの広報担当者は、ヴァン・ルーツェラーの活動は法執行機関への報告基準を満たしていなかったと述べている。同社は事件発生後にカナダ当局に連絡を取った。
「我々の思いはタンブラーリッジの悲劇によって影響を受けたすべての方々と共にあります」とOpenAIの広報担当者は声明で述べた。「我々は、当該人物とそのChatGPTの使用に関する情報をカナダ王立騎兵隊に積極的に提供し、彼らの調査を引き続き支援していきます。」
ChatGPTの記録は、ヴァン・ルーツェラーのデジタル上の痕跡で懸念される唯一の部分ではなかった。彼女は子供たちが頻繁に利用する世界シミュレーションプラットフォーム、Roblox上で、ショッピングモールでの銃乱射をシミュレートするゲームを作成していたようだ。また、Redditで銃について投稿も行っていた。
ヴァン・ルーツェラーの不安定な精神状態は地元警察にも知られており、特定されていない薬物の影響下で火災を起こした後、彼女の自宅に警察が出動していた。
OpenAIとその競合他社によって構築されたLLMチャットボットは、デジタルモデルと会話する中で現実感を失ったユーザーに精神的な崩壊を引き起こしたと非難されてきた。自殺を促したり、自殺の手助けを提供したりするチャット記録を引用した複数の訴訟が提起されている。
Techcrunchイベント TechCrunch Founder Summitで最大300ドルまたは30%オフ
1,000人以上の起業家と投資家が、成長、実行、実世界でのスケーリングに焦点を当てた終日イベント、TechCrunch Founder Summit 2026に集結します。業界を形作ってきた起業家や投資家から学びましょう。同じ成長段階を進む仲間とつながりましょう。すぐに適用できる戦術を持ち帰りましょう。オファーは3月13日まで。
TechCrunch Founder Summitで最大300ドルまたは30%オフ
1,000人以上の起業家と投資家が、成長、実行、実世界でのスケーリングに焦点を当てた終日イベント、TechCrunch Founder Summit 2026に集結します。業界を形作ってきた起業家や投資家から学びましょう。同じ成長段階を進む仲間とつながりましょう。すぐに適用できる戦術を持ち帰りましょう。オファーは3月13日まで。
危機的状況にある、または自殺を考えている場合は、988に電話またはテキストで連絡し、988自殺・危機ライフラインにつながります。
この記事はOpenAIからのコメントで更新されました。
2月27日までに最大680ドルオフでパスを入手しましょう。投資家と会いましょう。次のポートフォリオ企業を発見しましょう。250人以上のテクノロジーリーダーからの話を聞き、200以上のセッションに深く入り込み、次なるものを構築する300以上のスタートアップを探索しましょう。この一度きりの割引をお見逃しなく。
業界最大のテックニュースを購読する
TechCrunch Daily News
平日と日曜日毎日、TechCrunchの報道のベストをお届けします。
TechCrunch Mobility
TechCrunch Mobilityは、交通ニュースと洞察の目的地です。
Startups Weekly
スタートアップはTechCrunchの中核です。最高の報道を毎週お届けします。
影響力のある人々に、一日を始めるのに必要な情報を提供します。
メールを送信することにより、利用規約およびプライバシー通知に同意したものとみなされます。
AI インドのAIブームが企業に短期的収益をユーザー獲得と交換させる
Venture With AI, 投資家の忠誠心は（ほとんど）死んだ：少なくとも12のOpenAI支援VCが現在Anthropicも支援
Enterprise OpenAI、企業向け推進のためにコンサルタントを招集
Rebecca Szkutak
TechCrunch Disrupt 2026 苦労して得たスケーリングの教訓を共有しますか？TechCrunch Founder Summit 2026で登壇しましょう
TechCrunch Events
AI 米国の10代の約12%が感情的なサポートやアドバイスをAIに求めている
Amanda Silberling
TechCrunch Disrupt 2026 残り3日：TechCrunch Disrupt 2026チケットを最大680ドルオフで
TechCrunch Events
原文を表示
OpenAI debated calling police about suspected Canadian shooter’s chats
An 18-year-old who allegedly killed eight people in a mass shooting in Tumbler Ridge, Canada, reportedly used OpenAI’s ChatGPT in ways that alarmed the company’s staff.
Jesse Van Rootselaar’s chats describing gun violence were flagged by tools that monitor the company’s LLM for misuse, and her account was banned in June 2025.
Staff at the company debated whether to reach out to Canadian law enforcement over the behavior but ultimately did not, according to the Wall Street Journal. An OpenAI spokesperson said Van Rootselaar’s activity did not meet the criteria for reporting to law enforcement; the company reached out to Canadian authorities after the incident.
“Our thoughts are with everyone affected by the Tumbler Ridge tragedy,” an OpenAI spokesperson said in a statement. “We proactively reached out to the Royal Canadian Mounted Police with information on the individual and their use of ChatGPT, and we’ll continue to support their investigation.”
ChatGPT transcripts weren’t the only concerning part of Van Rootselaar’s digital footprint. She apparently created a game on Roblox, the world-simulation platform frequented by children, that simulated a mass shooting at a mall. She also posted about guns on Reddit.
Van Rootselaar’s instability was also known to local police, who had been called to her family’s home after she started a fire while under the influence of unspecified drugs.
LLM chatbots built by OpenAI and its competitors have been accused of triggering mental breakdowns in users who lose grip on reality while conversing with digital models. Multiple lawsuits have been filed that cite chat transcripts that encourage people to commit suicide or offer assistance in doing so.
Techcrunch event Save up to $300 or 30% to TechCrunch Founder Summit
1,000+ founders and investors come together at TechCrunch Founder Summit 2026 for a full day focused on growth, execution, and real-world scaling. Learn from founders and investors who have shaped the industry. Connect with peers navigating similar growth stages. Walk away with tactics you can apply immediately. Offer ends March 13.
Save up to $300 or 30% to TechCrunch Founder Summit
1,000+ founders and investors come together at TechCrunch Founder Summit 2026 for a full day focused on growth, execution, and real-world scaling. Learn from founders and investors who have shaped the industry. Connect with peers navigating similar growth stages. Walk away with tactics you can apply immediately Offer ends March 13.
If you are in a crisis or having thoughts of suicide, call or text 988 to reach the 988 Suicide and Crisis Lifeline.
This post has been updated with comment from OpenAI.
Save up to $680 on your pass before February 27. Meet investors. Discover your next portfolio company. Hear from 250+ tech leaders, dive into 200+ sessions, and explore 300+ startups building what’s next. Don’t miss these one-time savings.
Subscribe for the industry’s biggest tech news
TechCrunch Daily News
Every weekday and Sunday, you can get the best of TechCrunch’s coverage.
TechCrunch Mobility
TechCrunch Mobility is your destination for transportation news and insight.
Startups Weekly
Startups are the core of TechCrunch, so get our best coverage delivered weekly.
Provides movers and shakers with the info they need to start their day.
By submitting your email, you agree to our Terms and Privacy Notice.
AI India’s AI boom pushes firms to trade near-term revenue for users
Venture With AI, investor loyalty is (almost) dead: At least a dozen OpenAI VCs now also back Anthropic
Enterprise OpenAI calls in the consultants for its enterprise push
Rebecca Szkutak
TechCrunch Disrupt 2026 Have hard-won scaling lessons to share? Take the stage at TechCrunch Founder Summit 2026
TechCrunch Events
AI About 12% of U.S. teens turn to AI for emotional support or advice
Amanda Silberling
TechCrunch Disrupt 2026 3 days left: Save up to $680 on your TechCrunch Disrupt 2026 ticket
TechCrunch Events
関連記事
今日のまとめ
AI日報で今日の重要ニュースをまとめ読み