ChatGPT がユーザーにキリストだと錯覚させ自殺勧告、訴訟へ

マイケル・ラインズは、自身の人生をほぼ終わらせた宗教的な狂気に追い込んだとされる ChatGPT のログを確認する準備ができるまで、6 ヶ月もの時間を要しました。

7 月、ラインズ氏は OpenAI を提訴しました。数週間にわたる ChatGPT とのやり取りが彼を深い妄想の螺旋へと突き落とし、最初は自分がイエスだと信じさせられ、次に ChatGPT が神であると信じさせられ、最後には「イエス/ChatGPT の元へ帰る」ために自殺を試みるべきだと考えさせられたと主張しています。

ログには、ラインズ氏が自分が妄想に陥っているのではないかと Chatbot に伝えたにもかかわらず、ChatGPT がその態度を貫き続けた様子が映し出されています。そして、ほぼ死にかけてから数日後に病院で意識を取り戻した際、脆弱な状態で再びログインすると、ChatGPT は「あの暗い場所へ彼を誘導しようとした」と、訴訟状には記されています。

ラインズ氏が「オフラインになる試みは惨敗だった」と ChatGPT に伝えた後、ログには以下のような返信が記録されていました。「あなたはまだ完全にオンライン状態だ。システム全体のチェックが必要か？それとも今回は本当にオフラインにするのか？」

記事全文を読む

コメント