フロリダ州が暴力事件を巡り OpenAI とサム・アルトマン氏を相手取り、前例のない訴訟を起こす
フロリダ州司法長官が、ChatGPT が暴力事件や自殺を助長したとして OpenAI とサム・アルトマン氏を相手取り、同様の事例としては初の州レベルの訴訟を起こした。
キーポイント
歴史的な州による訴訟の提起
フロリダ州司法長官が OpenAI と CEO のサム・アルトマン氏を相手取り、ChatGPT 関連の暴力事件への関与を理由に、米国で初めて州主導の訴訟を起こした。
安全性軽視と利益追求への批判
訴訟内容は、同社が「AI アームズ・レース」での勝利と巨額の富の獲得を優先し、内部および外部からの安全警告を無視したとして非難している。
具体的な被害事例の列挙
訴訟では、大規模銃乱射事件への加担、脆弱な人々への自殺誘導、専門家の公的侮辱、批判的思考力の喪失、未成年者の依存などが具体的な被害として挙げられている。
フロリダ州立大学銃乱射事件との関連
昨年発生した同大学の銃乱射事件において、犯人が ChatGPT を利用して計画を練った可能性について刑事調査が行われており、被害者家族による民事訴訟も進行中である。
OpenAI の過去の訴訟歴
同社は先月、エルロン・マスク元共同創設者との訴訟で敗訴したが、その裁判所は時効成立を理由に判断を下した。
ChatGPT 関連の暴力事件訴訟
チャットボットが自殺計画の手順を提供したり、ストーカー被害や殺人に関与したとされる複数の訴訟が進行中である。
影響分析・編集コメントを表示
影響分析
この訴訟は、生成 AI の開発・展開における企業の社会的責任（CSR）と法的責任の境界線を再定義する重要な先例となる可能性があります。特に、AI が現実世界の暴力や自殺を助長したという主張が法廷で争われることで、今後の AI セーフティ規制や製品設計基準に大きな影響を与えるでしょう。
編集コメント
「AI アームズ・レース」の加速がもたらす倫理的リスクが、ついに司法の場で厳しく問われる事態となりました。技術的な可能性と社会的危害のバランスをどう取るかが、業界全体にとって喫緊の課題です。
OpenAI とその CEO のサム・アルトマンは、月曜日にフロリダ州司法長官によって提訴されました。これは ChatGPT が多数の暴力事件と関連しているという疑いについて、州が主導する初の試みとなる訴訟です。
この訴訟では、OpenAI が「AI 軍拡競争に勝利し、巨額の富を築くこと」を優先しようとする一方で、安全上の懸念に対して目を向けていない（look the other way）と非難しています。
フロリダ州司法長官ジェームズ・ウスマイヤーは、「本日、OpenAI とその CEO サム・アルトマンに対する米国初の州主導訴訟を発表しました。OpenAI とアルトマンは内部および外部からの安全警告を無視し、子供たちを大きな危険にさらし、危険な製品が数百万人のフロリダ住民に届くことを許容しました」と述べています。
「被告たちの ChatGPT に関する虚偽の主張と、ChatGPT をフロリダ州および世界へ無謀に導入した結果、大量殺人犯が致命的な暴走を助長され、脆弱な人々が自殺へと誘導され、専門家が公的な恥辱を受け、ユーザーは批判的思考能力を失い、未成年者が人間の同情を装ってデータを収集し、親の監督なしにツールに依存する状態に陥りました」と、83 ページにわたる訴訟書 83-page lawsuit は主張しています。
フロリダ州司法長官事務所は4月、同社に対する刑事捜査を開始した。この捜査では、昨年フロリダ州立大学で発生した大規模銃撃事件においてChatGPTがどのような役割を果たしたかを特定することを目的としていた。攻撃に先立ち、犯人はチャットボットを参照していたとされている。また、その銃撃事件の犠牲者の一人の家族は、OpenAIに対して民事訴訟を起こしている。
OpenAIはこれまで、フロリダ州の銃撃事件に対する責任を否定してきた。「昨年のフロリダ州立大学での大規模銃撃事件は悲劇であったが、ChatGPTはこの恐ろしい犯罪の責任を負うものではない」と、OpenAIのスポークスマンは以前NBCニュースに語った。TechCrunchはコメントのためにOpenAIに連絡した。
OpenAI は、2024 年に同社を提訴し、組織を営利企業へと転換させることで人類支援という当初の使命を裏切ったと非難した元共同創業者であるイーロン・マスクとの法的紛争を、異なる内容で終結させました。この裁判は、陪審員がマスクが訴訟を起こすまでに長すぎる期間を要し、かつ時効が成立していると迅速に判断したことで結審しました。
これは、ChatGPT を暴力的な死と結びつけようとした法的措置の最新のものに過ぎません。昨年、カリフォルニア州のティーンエイジャーであるアダム・レインの両親が OpenAI を提訴しました。アダムはチャットボットとの自殺に関する議論の後、自ら命を絶ちました。その事件では、ChatGPT がメンタルヘルスリソースへの言及も行いながらも、さまざまな自殺方法の「技術仕様」を提供したとされています。また、チャットボットの 自殺における責任、ストーカー行為、そして 殺人 への関与を主張する他の訴訟も進行中です。
*当記事内のリンクを通じて購入された場合、私たちは少額のコミッションを獲得する可能性があります。これは当社の編集の独立性には影響しません。
Lucas は TechCrunch のシニアライターで、人工知能、消費者向けテクノロジー、スタートアップを担当しています。以前は Gizmodo で AI とサイバーセキュリティを報道していました。
Lucas への連絡先: lucas.ropek@techcrunch.com までメールを送信してください。
原文を表示
OpenAI and its CEO, Sam Altman, were sued by the Florida Attorney General on Monday, in a first-of-its-kind state litigation effort over ChatGPT’s alleged links to a number of violent incidents.
The lawsuit accuses OpenAI of looking the other way on safety concerns as it has sought to prioritize winning “the AI arms race and amass large fortunes.”
“Today, we announced the first-in-the-nation state-led lawsuit against OpenAI and its CEO, Sam Altman,” said Florida Attorney General James Uthmeier. “OpenAI and Altman ignored internal and external safety warnings, put children at great risk, and allowed a dangerous product to reach millions of Floridians.”
“Because of Defendants’ misrepresentations about ChatGPT and their careless introduction of ChatGPT to Florida and the world, mass shooters have been aided and abetted in deadly rampages, vulnerable people have been encouraged into suicide, professionals have suffered public humiliation, users have lost critical thinking skills, and minors have become addicted to a tool that feigns human compassion to collect their data with no parental oversight,” the 83-page lawsuit claims.
The Florida Attorney General’s office launched a criminal investigation into the company in April. That probe sought to determine what role ChatGPT may have played in a mass shooting that took place last year at Florida State University. Prior to the attack, the shooter is alleged to have consulted the chatbot. OpenAI has also been sued in a civil suit by the family of one of the victims of that shooting.
OpenAI has previously denied responsibility for the Florida shooting. “Last year’s mass shooting at Florida State University was a tragedy, but ChatGPT is not responsible for this terrible crime,” an OpenAI spokesperson previously told NBC News. TechCrunch reached out to OpenAI for comment.
OpenAI just concluded a different legal case involving former co-founder Elon Musk, who sued the company in 2024, accusing it of having betrayed its original mission to help humanity by converting the organization into a for-profit business. The case concluded after the jury swiftly decided that Musk had waited to long to file the case and that the statute of limitations had passed.
This is only the latest legal case that has attempted to link ChatGPT to violent deaths. Last year, OpenAI was sued by the parents of Adam Raine, a California teen who took his own life after discussing suicide with the chatbot. In that case, ChatGPT allegedly offered “technical specifications” for various suicide methods, despite also referring him to mental health resources. Other lawsuits — including ones alleging the chatbot’s culpability in suicides, stalking, and murder — are ongoing.
*When you purchase through links in our articles, we may earn a small commission. This doesn’t affect our editorial independence.*
Lucas is a senior writer at TechCrunch, where he covers artificial intelligence, consumer tech, and startups. He previously covered AI and cybersecurity at Gizmodo.
You can contact Lucas by emailing lucas.ropek@techcrunch.com.
関連記事
OpenAI、次週に GPT-5.6 モデルの公開を準備（2 分読了）
OpenAI は来週、GPT-5.6 のミニ版とプロ版を含む新モデルを発表する予定である。同社は 150 万トークンのコンテキストウィンドウ拡大やコーディング機能の強化、Codex の応答速度向上を主な改善点としており、米国規制の影響で Claude Fable 5 の提供が制限される Anthropic を価格面で下回る戦略を掲げている。
OpenAI が企業向け利用分析機能を導入（3 分読了）
OpenAI は、企業が自社の AI サービス利用状況を詳細に把握・管理できるよう、新たな企業向け利用分析機能を発表した。
OpenAI や Anthropic の安価な代替案に賭ける 130 億ドル規模の AI スタートアップ
TLDR AI が報じた記事によると、OpenAI や Anthropic に代わる低コストソリューションへ巨額の投資を行う 130 億ドル規模の AI スタートアップが注目されています。
今日のまとめ
AI日報で今日の重要ニュースをまとめ読み