ChatGPT の信頼できる連絡先設定（6 分読了）

ChatGPT の信頼できる連絡先機能の紹介 | OpenAI

最も重要な時に、あなたが信頼する人へとつなげます。

記事の音声読み上げ

人々は ChatGPT を使って学び、アイデアを探求し、問題を解決し、個人的な問いについて振り返ります。時には、その対話の中で、誰かが苦しみや支援を必要としている瞬間が含まれることもあります。私たちの目標は、繊細な会話に配慮して応答するシステムを設計し、必要な時に人々が現実世界の助けへとつながるよう促すことです。

本日、ChatGPT のオプション機能として信頼できる連絡先（Trusted Contact）の導入を開始します。これは、登録された本人が自殺や自傷行為について深刻な安全上の懸念を示唆する形で議論していることを、当社の自動化システムおよび訓練を受けたレビュー担当者が検出した場合に、友人、家族、介護者など、信頼する人物に通知を行うことができる機能です。信頼できる連絡先は、危機にあるユーザーが信頼する人物とつながるのを支援することで、ChatGPT に既に用意されているローカライズされたヘルプラインに追加のサポート層を提供することを目的としています。

Trusted Contact は、リンクされたティーンアカウントに深刻な苦痛の兆候が見られた際に保護者や後見人がアラートを受け取れることができる「親御さん向けコントロールの安全通知」(opens in a new window) に基づいて構築されています。現在、私たちは安全アラートのオプションを拡張し、18 歳以上であれば誰でも信頼できる人を Trusted Contact として追加できるようになりました。

専門家のガイダンス は、社会的つながりが自殺リスクを低減するための最も重要な保護要因の一つであると指摘しています。Trusted Contact は、ユーザーがすでに信頼している人とつながることを促すために設計されています。これは専門的なケアや危機対応サービスを代替するものではなく、苦痛にある人々をサポートするための複数のセーフティ層の一つです。ChatGPT は、適切な状況では依然としてユーザーに危機対応ホットラインや緊急サービスへの連絡を促します。

**「心理科学は、社会的つながりが特に感情的な苦痛の期間において強力な保護要因であることを一貫して示しています。信頼できる人物を事前に特定し、その選択と自律性を尊重することは、最も重要な時に現実世界のサポートに手を差し伸べることを容易にします。」

— アーサー・エヴァンス博士、アメリカ心理学会 最高経営責任者

• ユーザーは、ChatGPT の設定から、1 人の成人（グローバルでは 18 歳以上、韓国では 19 歳以上）を「信頼できる連絡先」として追加できます。
• 信頼できる連絡先には、その役割を説明する招待状が送信され、この機能を有効化するには 1 週間以内に招待を受け入れる必要があります。もし信頼できる連絡先が拒否した場合、ユーザーは別の成人を追加することも選択できます。
• 当社の自動監視システムが、ユーザーが自殺行為について深刻な安全上の懸念を示すような形で話していることを検出した場合、ChatGPT はユーザーに「信頼できる連絡先に通知する可能性がある」旨を伝え、信頼できる連絡先へ連絡するよう促し、会話のきっかけとなる提案も提供します。
• その後、特別に訓練された小規模なチームが状況をレビューします。これらのレビュアーが会話が深刻な安全上の懸念を示す可能性があると判断した場合、ChatGPT は電子メール、テキストメッセージ、または ChatGPT アカウントを持っている場合はアプリ内通知を通じて、信頼できる連絡先に簡潔な通知を送信します。
• この通知は意図的に限定的に設計されています。自殺行為が潜在的に懸念される形で話題になったという一般的な理由を共有し、信頼できる連絡先に対して確認の連絡を取るよう促します。ただし、ユーザーのプライバシーを保護するため、会話の詳細や転記内容は含まれません。また、この通知には、繊細な会話をどのように扱うかについての専門家のガイダンスへのリンクも含まれています（新しいウィンドウで開きます）。
• ユーザーはいつでも設定から信頼できる連絡先を削除または編集でき、信頼できる連絡先もヘルプセンターからいつでも自分自身を削除できます（新しいウィンドウで開きます）。

これらの深刻な安全上の状況は稀ですが、発生した場合には、当社のシステムは迅速なレビューと対応を支援するように設計されています。どのシステムも完璧ではありませんし、信頼できる連絡先への通知が常にその人が経験していることを正確に反映するわけではありませんが、すべての通知は送信前に訓練された人間のレビューを経ており、私たちはこれらの安全上の通知を 1 時間以内にレビューすることを目指しています。

クリニシャンと安全の専門家の指導のもとで

「AI の最大の約束の一つは、それがどのように本物の人間同士のつながりと心理的な安全性を育むかです。ChatGPT の信頼できる連絡先機能には、特に脆弱な瞬間における人間のエンパワーメントへの一歩として、私は励まされています。」

— ムンムン・デ・チョードゥリー博士（Dr. Munmun De Choudhury, Ph.D.）、ジョージア工科大学インタラクティブコンピューティング J.Z. リャン教授、およびウェルビーイングと AI に関する専門家評議会のメンバー

各段階での安全性の最優先

信頼できる連絡先機能に加え、ChatGPT はあらゆる段階で繊細な会話を導くためのセーフガードを備えています。私たちは、会話内で表現されるリスクレベルに応じたシステムの対応方法を継続的に改善しています：

• 現実世界での支援のサポート：危機的な状況において、ChatGPT は人々に緊急サービス、クライシスヘルプライン、メンタルヘルスの専門家、または身近な信頼できる人物への連絡を促すことがあります。
• 配慮ある対応：私たちは 170 名以上のメンタルヘルス専門家（mental health experts）と協力し、ChatGPT が潜在的な苦痛の兆候を検知して適切に対応し、会話を沈静化させ、必要に応じて現実世界の支援へと導く能力を向上させてきました。
• 人々が自分の時間をコントロールし続ける手助け：状況によっては、ChatGPT は健全なテクノロジー利用習慣を促進するため、長時間の使用後に休憩を取るよう提案したり、一時的に離れるよう勧めたりすることがあります。
• 有害なリクエストの拒否：ChatGPT は自殺や自傷行為に関する手順を提供するよう求めるリクエストに応じないよう訓練されています。ユーザーがこのような情報の提供を求める場合、システムはリクエストを拒否し、より安全な回答へと誘導するとともに、現地のクライシスリソース（crisis resources）を表示します。

AI における安全性の継続的な進化

信頼できる連絡先は、OpenAI が困難な状況にある人々を支援する AI システムを構築するためのより広範な取り組みの一部です。[1] 私たちは、人々が苦痛を経験している可能性がある場合に AI システムがどのように対応すべきかを改善するため、臨床医、研究者、政策立案者と引き続き協力していきます。私たちの目標は、AI システムが孤立して存在しないようにすることです。むしろ、最も重要な現実世界のケア、人間関係、リソースへと人々をつなぐ手助けをするべきなのです。

[1] https://openai.com/index/helping-people-when-they-need-it-most/