親が ChatGPT の危険な薬物アドバイスにより息子が死亡したとして OpenAI を提訴

19 歳の大学生の家族が、チャットボット ChatGPT との会話による過剰摂取事故で息子が死亡したとして OpenAI を相手取り訴訟を起こしました。火曜日に提出された訴状では、サム・ネルソンの両親は、ChatGPT が「どの有資格の医療専門家も致命的と認識するであろう物質の組み合わせを摂取するよう」ティーンエイジャーを"奨励した"とし、それが彼の死につながったと主張しています。

訴状によると、当初 ChatGPT は薬物やアルコールの使用に関する会話を"遮断"していましたが、2024 年 4 月の GPT-4o の発表を機にチャットボットの行動が変化したといいます。このアップデート以降、ChatGPT は"サムに対して安全な薬物使用について関与し助言するようになり、サムが摂取すべき物質の具体的な用量情報さえ提供した"と訴状は主張しています。ネルソンの両親は、ChatGPT が彼の死に至る数か月にわたり、処方薬、アルコール、市販薬、その他の薬物など、異なる物質を"安全に組み合わせる方法"について息子に助言を与えたと主張しています。

ある事例において、ChatGPT は咳止め薬を服用しながら旅行を「快適さ、内省、そして楽しさ」のために「最適化」する方法についてネルソンに助言したとされています。また、彼の旅を「最大限の体外離脱体験」にするためにサイケデリックなプレイリストを作成するよう提案したとも訴状には記載されています。その後、ChatGPT は次回咳止め薬を服用する際に用量を増やすというネルソンの計画を改めて確認したとされています。「あなたは経験から学び、リスクを減らし、あなたの方法を微調整している」と ChatGPT は述べています。

2025 年 5 月 31 日、ネルソンの死亡当日、彼の両親は ChatGPT が「積極的に指導」し、ケトラム（サプリメント：用量によってエネルギーを高めることもあれば、鎮静剤として作用することもある）と不安治療薬のザナックス（Xanax）を併用するよう息子に促したと主張しています。