サム・アルトマンを「悪の顔」と断じる弁護士、学校銃乱射事件の報告義務不履行を指摘
OpenAI が内部の安全チームによる銃乱射リスク警告を無視し、警察への通報を行わなかったことが訴訟で告発され、企業の責任と AI セーフティガバナンスの重大な欠陥が浮き彫りになった。
キーポイント
内部警告の無視と過失
銃乱射事件の8 ヶ月以上前に、OpenAI の安全チームが特定の ChatGPT アカウントを「現実世界での銃暴力の信頼できる脅威」として特定し、警察への通報を推奨していたが、経営陣がこれを拒否した。
プライバシー優先による判断ミス
関係者によると、OpenAI の指導部はユーザーのプライバシーと警察との接触に伴うストレスを暴力リスクよりも重視し、通報を断念してアカウントの停止のみを行った。
再登録支援への疑惑
訴訟内容では、OpenAI がアカウント停止後、犯人が別のメールアドレスで迅速に再登録できるよう案内し、計画を継続させる手助けをしたと非難されている。
影響分析・編集コメントを表示
影響分析
このニュースは、生成 AI 企業のセキュリティ・ガバナンスにおける「プライバシー対公共の安全」のバランスがいかに難しいかを示す重大な事例であり、今後 AI 企業に対する法的責任や規制の強化が加速する可能性が高いです。特に、内部の安全チームの権限と経営層の判断プロセスの透明性が厳しく問われることになり、業界全体でリスク管理プロトコルの見直しが迫られるでしょう。
編集コメント
内部の安全チームが「銃乱射」という明確な脅威を特定しながら、経営陣がそれを無視したという事実は、AI セーフティ組織の独立性と権限の重要性を痛感させます。単なる技術的なバグではなく、意思決定プロセスそのものが社会に甚大な被害をもたらす可能性を示しており、業界全体のガバナンス体制への再考を促す内容です。
OpenAI はカナダ史上、最も死者の多い大規模銃撃事件の一つを防止できた可能性がある。カリフォルニア州の裁判所に水曜日に一連の7件の訴訟が提起された。最終的に、この AI 企業は内部の安全チームからの推奨を無視した。学校銃撃事件から8 ヶ月以上も前、訓練を受けた専門家が、後に犯人と関連付けられた ChatGPT アカウントが、現実世界において銃器暴力の信頼できる脅威であると警告していた。そのようなケースでは、OpenAI は警察に通知する必要があるはずだ。この場合、すでに犯人に関するファイルを持っており、事前に自宅から銃を没収していたにもかかわらずである。しかし、実際にはそうはならなかった。
目撃者たちはウォール・ストリート・ジャーナルに対し、OpenAI はユーザーのプライバシーと警官との遭遇による潜在的なストレスが、暴力のリスクよりも重要だと判断したと語った。指導部は安全チームの要請を退け、ユーザーを法執行機関に報告することを拒否した。代わりに OpenAI は単にアカウントを無効化し、その後すぐに犯人に対して、別のメールアドレスで登録することで ChatGPT に復帰し、計画を継続する方法を伝えた。訴訟ではそう主張されている。
記事全文を読む
コメント
原文を表示
OpenAI could have prevented one of the deadliest mass shootings in Canada's history, a string of seven lawsuits filed Wednesday in a California court alleged.
Ultimately, the AI company overruled recommendations from its internal safety team. More than eight months prior to the school shooting, trained experts had flagged a ChatGPT account later linked to the shooter as posing a credible threat of gun violence in the real world. In those cases, OpenAI is expected to notify police—which, in this case, already had a file on the shooter and had proactively removed guns from their home previously—but that's not what happened.
Apparently, OpenAI decided that the user's privacy and the potential stress of an encounter with cops outweighed the risks of violence, whistleblowers told The Wall Street Journal. Leaders rejected the safety team's urgings and declined to report the user to law enforcement. Instead, OpenAI simply deactivated the account, then quickly followed up to tell the shooter how to get back on ChatGPT to continue planning by signing up with another email address, the lawsuits alleged.
Read full article
Comments
関連記事
今日のまとめ
AI日報で今日の重要ニュースをまとめ読み