サム・アルトマンを「悪の顔」と断じる弁護士、学校銃乱射事件の報告義務不履行を指摘
本文の状態
日本語全文を表示中
詳細モードで約1分の本文を読めます。
同じ出来事の情報源
この情報源を基点に整理
Ars Technica AI
カリフォルニア州の弁護士が、OpenAI が内部安全チームの警告を無視し、カナダで起きた学校銃乱射事件に関与した ChatGPT アカウントを警察に通報しなかったとして、同社とサム・アルトマン氏を訴えた。
Continue in AI NEW LAB
このニュースを、実務の判断につなげる
AI NEW LABで、試したことや先に確認したい条件を共有できます。まずはログインなしで読めます。
AI NEW LABで論点を見るSource Article
元記事を日本語で読む
本文に関係しない購読案内、埋め込み通知、サイト内プロモーションは除いています。
OpenAI はカナダ史上、最も死者の多い大規模銃撃事件の一つを防止できた可能性がある。カリフォルニア州の裁判所に水曜日に一連の7件の訴訟が提起された。最終的に、この AI 企業は内部の安全チームからの推奨を無視した。学校銃撃事件から8 ヶ月以上も前、訓練を受けた専門家が、後に犯人と関連付けられた ChatGPT アカウントが、現実世界において銃器暴力の信頼できる脅威であると警告していた。そのようなケースでは、OpenAI は警察に通知する必要があるはずだ。この場合、すでに犯人に関するファイルを持っており、事前に自宅から銃を没収していたにもかかわらずである。しかし、実際にはそうはならなかった。
目撃者たちはウォール・ストリート・ジャーナルに対し、OpenAI はユーザーのプライバシーと警官との遭遇による潜在的なストレスが、暴力のリスクよりも重要だと判断したと語った。指導部は安全チームの要請を退け、ユーザーを法執行機関に報告することを拒否した。代わりに OpenAI は単にアカウントを無効化し、その後すぐに犯人に対して、別のメールアドレスで登録することで ChatGPT に復帰し、計画を継続する方法を伝えた。訴訟ではそう主張されている。
記事全文を読む
コメント
原文を表示
OpenAI could have prevented one of the deadliest mass shootings in Canada's history, a string of seven lawsuits filed Wednesday in a California court alleged.
Ultimately, the AI company overruled recommendations from its internal safety team. More than eight months prior to the school shooting, trained experts had flagged a ChatGPT account later linked to the shooter as posing a credible threat of gun violence in the real world. In those cases, OpenAI is expected to notify police—which, in this case, already had a file on the shooter and had proactively removed guns from their home previously—but that's not what happened.
Apparently, OpenAI decided that the user's privacy and the potential stress of an encounter with cops outweighed the risks of violence, whistleblowers told The Wall Street Journal. Leaders rejected the safety team's urgings and declined to report the user to law enforcement. Instead, OpenAI simply deactivated the account, then quickly followed up to tell the shooter how to get back on ChatGPT to continue planning by signing up with another email address, the lawsuits alleged.
Read full article
Comments
関連記事
News to Guide
ニュースの次に確認する
発表内容を、現在の料金や仕様と照らし合わせられる関連ガイドです。
今日のまとめ
AIデイリーブリーフで今日の重要ニュースをまとめ読み