OpenAI、自傷行為の恐れがある場合のための新たな「信頼できる連絡先」セーフガードを導入

木曜日、OpenAI は、会話内で自傷行為の言及があった場合に信頼できる第三者に警告する新機能「Trusted Contact」を発表しました。この機能により、成人の ChatGPT ユーザーは、アカウント内に友人や家族など特定の人物を信頼できる連絡先として登録できます。会話の内容が自傷行為に向かう可能性がある場合、OpenAI は現在、ユーザーに対してその連絡先に連絡するよう促します。また、自動的に連絡先にアラートを送信し、ユーザーに安否を確認するよう呼びかけます。

OpenAI は、チャットボットとの会話後に自殺した人々の家族から一連の訴訟に直面しています。多くのケースで、家族は ChatGPT が愛する人を自殺に追い込んだり、あるいはその計画を支援したりしたと主張しています。

OpenAI は現在、潜在的に有害な事案に対処するために、自動化と人的レビューの組み合わせを使用しています。特定の会話トリガーは、自殺念慮をシステムに警告し、その後その情報を人間の安全チームへ伝達します。同社は、この種の通知を受け取るたびに、事案が人間によってレビューされると主張しています。「私たちはこれらの安全通知を 1 時間以内にレビューすることを目指しています」と同社は述べています。

OpenAI の内部チームが状況が深刻な安全性リスクを表すと判断した場合、ChatGPT は信頼できる連絡先にアラートを送信します。これは電子メール、テキストメッセージ、またはアプリ内の通知のいずれかで行われます。このアラートは簡潔に設計されており、関係者への確認を促すものです。同社によると、ユーザーのプライバシーを保護する手段として、何について議論されていたかという詳細な情報は含まれていません。

image画像クレジット: OpenAI

Trusted Contact（信頼できる連絡先）機能は、昨年 9 月に同社が導入したセーフガードに続くものです。この機能により、保護者はティーンエイジャーのアカウントをある程度監視する権限を得ており、OpenAI のシステムが子供が「深刻な安全リスク」に直面していると判断した場合に保護者に通知を送る 安全通知 を含むものです。長らく ChatGPT では、会話の内容が自傷行為の話題へと傾いた場合に専門的な医療サービスを受けるよう求める自動アラートも組み込まれています。

重要なのは、Trusted Contact は任意機能であり、特定のアカウントで保護機能が有効化されていても、ユーザーは複数の ChatGPT アカウントを保有できる点です。OpenAI のペアレンタルコントロール（親による管理機能）も同様に任意であり、これにも類似した制限が存在します。

「Trusted Contact は、困難な時期に人々を支援する AI システムの構築に向けた OpenAI のより広範な取り組みの一部です」と、同社は 発表記事 で述べています。「私たちは引き続き、臨床医、研究者、政策決定者と協力し、人々が苦痛を感じている可能性がある場合に AI システムがどのように対応すべきかを改善していく予定です。」

Techcrunch event

San Francisco, CA

|

October 13-15, 2026

当記事内のリンクを通じてご購入いただいた場合、私たちは少額のコミッションを獲得する可能性があります。これは私たちの編集の独立性には影響しません。

ルカスへの連絡先は、lucas.ropek@techcrunch.com までメールでご連絡ください。

プロフィールを見る