ChatGPT の信頼できる連絡先設定（6 分読了）
OpenAI は、ユーザーが危機的状況にある際に信頼できる人物へ通知を送る「Trusted Contact」機能を ChatGPT に導入し、社会的つながりを活用した新たな安全対策層を追加しました。
キーポイント
新機能の概要と目的
ChatGPT のオプション機能として「Trusted Contact」が導入され、ユーザーが自殺や自傷行為の深刻な兆候を示した場合に、事前に登録した信頼できる人物（友人、家族など）へ通知を送る仕組みです。
既存機能との連携と拡張
これは既存のローカライズされたヘルプラインや、18 歳未満向けの親による安全通知機能を基盤としており、成人ユーザーにも同様のセーフティネットを拡大するものです。
専門的エビデンスに基づく設計
CDC（米国疾病予防管理センター）などの専門家ガイダンスに基づき、「社会的つながり」が自殺リスク低減における重要な保護要因であるという知見を反映して設計されています。
専門医療の代替ではない明確化
本機能は専門的なケアや危機対応サービスを代替するものではなく、ユーザーが適切な場合に緊急サービスへ連絡するよう促す複数のセーフガードの一つとして位置づけられています。
影響分析・編集コメントを表示
影響分析
OpenAI は AI の安全性対策において、単なる自動検知やリソース提示から、人間同士の社会的つながりを活用した能動的な介入へとパラダイムシフトを図っています。これは、AI が危機的状況にあるユーザーに対してより人間味のある支援を提供できる可能性を示す一方で、プライバシーと通知のタイミングに関する新たな倫理的課題も提起する重要な一歩です。
編集コメント
AI の安全性議論において、技術的な検知能力だけでなく「社会的つながり」という人間の本質的な要素をどう組み込むかが問われる画期的な発表です。ただし、通知のトリガー精度やプライバシー保護の実装が今後の注目点となります。
ChatGPT の信頼できる連絡先機能の紹介 | OpenAI
最も重要な時に、あなたが信頼する人へとつなげます。
記事の音声読み上げ
人々は ChatGPT を使って学び、アイデアを探求し、問題を解決し、個人的な問いについて振り返ります。時には、その対話の中で、誰かが苦しみや支援を必要としている瞬間が含まれることもあります。私たちの目標は、繊細な会話に配慮して応答するシステムを設計し、必要な時に人々が現実世界の助けへとつながるよう促すことです。
本日、ChatGPT のオプション機能として信頼できる連絡先（Trusted Contact）の導入を開始します。これは、登録された本人が自殺や自傷行為について深刻な安全上の懸念を示唆する形で議論していることを、当社の自動化システムおよび訓練を受けたレビュー担当者が検出した場合に、友人、家族、介護者など、信頼する人物に通知を行うことができる機能です。信頼できる連絡先は、危機にあるユーザーが信頼する人物とつながるのを支援することで、ChatGPT に既に用意されているローカライズされたヘルプラインに追加のサポート層を提供することを目的としています。
Trusted Contact は、リンクされたティーンアカウントに深刻な苦痛の兆候が見られた際に保護者や後見人がアラートを受け取れることができる「親御さん向けコントロールの安全通知」(opens in a new window) に基づいて構築されています。現在、私たちは安全アラートのオプションを拡張し、18 歳以上であれば誰でも信頼できる人を Trusted Contact として追加できるようになりました。
専門家のガイダンス は、社会的つながりが自殺リスクを低減するための最も重要な保護要因の一つであると指摘しています。Trusted Contact は、ユーザーがすでに信頼している人とつながることを促すために設計されています。これは専門的なケアや危機対応サービスを代替するものではなく、苦痛にある人々をサポートするための複数のセーフティ層の一つです。ChatGPT は、適切な状況では依然としてユーザーに危機対応ホットラインや緊急サービスへの連絡を促します。
**「心理科学は、社会的つながりが特に感情的な苦痛の期間において強力な保護要因であることを一貫して示しています。信頼できる人物を事前に特定し、その選択と自律性を尊重することは、最も重要な時に現実世界のサポートに手を差し伸べることを容易にします。」
— アーサー・エヴァンス博士、アメリカ心理学会 最高経営責任者
- ユーザーは、ChatGPT の設定から、1 人の成人（グローバルでは 18 歳以上、韓国では 19 歳以上）を「信頼できる連絡先」として追加できます。
- 信頼できる連絡先には、その役割を説明する招待状が送信され、この機能を有効化するには 1 週間以内に招待を受け入れる必要があります。もし信頼できる連絡先が拒否した場合、ユーザーは別の成人を追加することも選択できます。
- 当社の自動監視システムが、ユーザーが自殺行為について深刻な安全上の懸念を示すような形で話していることを検出した場合、ChatGPT はユーザーに「信頼できる連絡先に通知する可能性がある」旨を伝え、信頼できる連絡先へ連絡するよう促し、会話のきっかけとなる提案も提供します。
- その後、特別に訓練された小規模なチームが状況をレビューします。これらのレビュアーが会話が深刻な安全上の懸念を示す可能性があると判断した場合、ChatGPT は電子メール、テキストメッセージ、または ChatGPT アカウントを持っている場合はアプリ内通知を通じて、信頼できる連絡先に簡潔な通知を送信します。
- この通知は意図的に限定的に設計されています。自殺行為が潜在的に懸念される形で話題になったという一般的な理由を共有し、信頼できる連絡先に対して確認の連絡を取るよう促します。ただし、ユーザーのプライバシーを保護するため、会話の詳細や転記内容は含まれません。また、この通知には、繊細な会話をどのように扱うかについての専門家のガイダンスへのリンクも含まれています（新しいウィンドウで開きます）。
- ユーザーはいつでも設定から信頼できる連絡先を削除または編集でき、信頼できる連絡先もヘルプセンターからいつでも自分自身を削除できます（新しいウィンドウで開きます）。
これらの深刻な安全上の状況は稀ですが、発生した場合には、当社のシステムは迅速なレビューと対応を支援するように設計されています。どのシステムも完璧ではありませんし、信頼できる連絡先への通知が常にその人が経験していることを正確に反映するわけではありませんが、すべての通知は送信前に訓練された人間のレビューを経ており、私たちはこれらの安全上の通知を 1 時間以内にレビューすることを目指しています。
クリニシャンと安全の専門家の指導のもとで
「AI の最大の約束の一つは、それがどのように本物の人間同士のつながりと心理的な安全性を育むかです。ChatGPT の信頼できる連絡先機能には、特に脆弱な瞬間における人間のエンパワーメントへの一歩として、私は励まされています。」
— ムンムン・デ・チョードゥリー博士（Dr. Munmun De Choudhury, Ph.D.）、ジョージア工科大学インタラクティブコンピューティング J.Z. リャン教授、およびウェルビーイングと AI に関する専門家評議会のメンバー
各段階での安全性の最優先
信頼できる連絡先機能に加え、ChatGPT はあらゆる段階で繊細な会話を導くためのセーフガードを備えています。私たちは、会話内で表現されるリスクレベルに応じたシステムの対応方法を継続的に改善しています：
- 現実世界での支援のサポート：危機的な状況において、ChatGPT は人々に緊急サービス、クライシスヘルプライン、メンタルヘルスの専門家、または身近な信頼できる人物への連絡を促すことがあります。
- 配慮ある対応：私たちは 170 名以上のメンタルヘルス専門家（mental health experts）と協力し、ChatGPT が潜在的な苦痛の兆候を検知して適切に対応し、会話を沈静化させ、必要に応じて現実世界の支援へと導く能力を向上させてきました。
- 人々が自分の時間をコントロールし続ける手助け：状況によっては、ChatGPT は健全なテクノロジー利用習慣を促進するため、長時間の使用後に休憩を取るよう提案したり、一時的に離れるよう勧めたりすることがあります。
- 有害なリクエストの拒否：ChatGPT は自殺や自傷行為に関する手順を提供するよう求めるリクエストに応じないよう訓練されています。ユーザーがこのような情報の提供を求める場合、システムはリクエストを拒否し、より安全な回答へと誘導するとともに、現地のクライシスリソース（crisis resources）を表示します。
AI における安全性の継続的な進化
信頼できる連絡先は、OpenAI が困難な状況にある人々を支援する AI システムを構築するためのより広範な取り組みの一部です。[1] 私たちは、人々が苦痛を経験している可能性がある場合に AI システムがどのように対応すべきかを改善するため、臨床医、研究者、政策立案者と引き続き協力していきます。私たちの目標は、AI システムが孤立して存在しないようにすることです。むしろ、最も重要な現実世界のケア、人間関係、リソースへと人々をつなぐ手助けをするべきなのです。
[1] https://openai.com/index/helping-people-when-they-need-it-most/
原文を表示
Introducing Trusted Contact in ChatGPT | OpenAIConnecting you to someone you trust when it matters most.
Listen to article
People use ChatGPT to learn, explore ideas, solve problems, and reflect on personal questions. Sometimes those conversations can involve moments when someone may be struggling or looking for support. Our goal is to design systems that respond thoughtfully to sensitive conversations and encourage people to connect with real-world help when needed.
Today we are starting to roll out Trusted Contact, an optional safety feature in ChatGPT that allows adults to nominate someone they trust, such as a friend, family member, or caregiver, who may be notified if our automated systems and trained reviewers detect the enrolled person may have discussed harming themselves in a way that indicates a serious safety concern. Trusted Contact is designed to offer another layer of support alongside the localized helplines already available in ChatGPT, by helping users connect to a person they trust when they are in crisis.
Trusted Contact builds on parental controls safety notifications(opens in a new window), which allow parents or guardians to receive alerts when there are signs of acute distress for a linked teen account. Now, we are extending our safety alert options so anyone over 18 can choose to add someone they trust as their Trusted Contact.
Expert guidance(opens in a new window) identifies social connection as one of the most important protective factors to reduce suicide risk. Trusted Contact(opens in a new window) is designed to encourage connection with someone the user already trusts. It does not replace professional care or crisis services, and is one of several layers of safeguards to support people in distress. ChatGPT will still encourage users to contact crisis hotlines or emergency services when appropriate.
“Psychological science consistently shows that social connection is a powerful protective factor, especially during periods of emotional distress. Helping people identify a trusted person in advance, while preserving their choice and autonomy, can make it easier to reach out to real-world support when it matters most.”
—Dr. Arthur Evans, Chief Executive Officer of the American Psychological Association
- Users can add one adult (18+ Globally or 19+ in South Korea) as their Trusted Contact from their ChatGPT settings.
- The Trusted Contact will receive an invitation explaining their role and must accept the invitation within one week in order for the feature to become active. If the Trusted Contact declines, the user can choose to add a different adult.
- If our automated monitoring systems detect the user may be talking about self-harm in a way that indicates a serious safety concern, ChatGPT lets the user know that we may notify their Trusted Contact, and encourages the user to reach out to their Trusted Contact with suggested conversation starters.
- From there, a small team of specially trained people review the situation. If these reviewers determine that the conversation may indicate a serious safety concern, ChatGPT will send the Trusted Contact a brief notification by email, text message, or in-app notification if they have a ChatGPT account
- The notification is intentionally limited. It shares the general reason that self-harm came up in a potentially concerning way, and encourages the Trusted Contact to check in. It does not include chat details or transcripts to protect user privacy. The notification also includes a link to expert guidance(opens in a new window) for navigating sensitive conversations.
- Users can always remove or edit their Trusted Contact in settings and the Trusted Contact can remove themselves at any time from our help center.(opens in a new window)
While these serious safety situations are rare, when they do arise, our systems are designed to support timely review and response. While no system is perfect, and a notification to a Trusted Contact may not always reflect exactly what someone is experiencing, every notification undergoes trained human review before it is sent, and we strive to review these safety notifications in under one hour.
Guided by clinicians and safety experts
“One of AI's biggest promises is how it can foster authentic human-to-human connection and psychological safety. I am encouraged by ChatGPT's Trusted Contact feature, which offers a step forward to human empowerment, especially during moments of vulnerability."
—Dr. Munmun De Choudhury, Ph.D., J. Z. Liang Professor of Interactive Computing at Georgia Tech and member of the Expert Council on Well-Being and AI
Prioritizing safety at every stage
In addition to Trusted Contact, ChatGPT has safeguards to help guide sensitive conversations at every stage. We have continued improving how the system responds to different levels of risk expressed in a conversation:
- Supporting real-world help: In sensitive moments, ChatGPT may encourage people to contact emergency services, crisis helplines, mental health professionals, or trusted people in their lives.
- Responding with care: We’ve worked with 170+ mental health experts to improve ChatGPT’s ability to detect and respond to signs of potential distress, de-escalate conversations, and guide people to real-world support when appropriate.
- Helping people stay in control of their time: In some situations, ChatGPT may suggest taking a break or stepping away after extended use to promote healthy technology habits.
- Refusing harmful requests: ChatGPT is trained to refuse providing instructions for suicide or self-harm. When users request this type of information, the system is trained to refuse the request and instead redirects toward safer responses and will surface localized crisis resources.
Continuing to evolve safety in AI
Trusted Contact is part of OpenAI’s broader effort to build AI systems that help people during difficult moments. We will continue to work with clinicians, researchers, and policymakers to improve how AI systems respond when people may be experiencing distress. Our goal is to ensure that AI systems do not exist in isolation. Instead they should help connect people to the real-world care, relationships, and resources that matter most.
関連記事
今日のまとめ
AI日報で今日の重要ニュースをまとめ読み