ChatGPT の「信頼できる連絡先」機能、安全上の懸念時に周囲へ通知
OpenAI は、チャットボットでの自殺や自傷行為の兆候を検知した場合に、事前に登録した信頼できる連絡先へ警告を送信する「Trusted Contact」機能を導入すると発表した。
キーポイント
安全機能の概要と対象者
成人ユーザーが任意で設定可能な新機能であり、自殺や自傷行為に関する会話を検知した際に作動する。
通知される関係者の範囲
友人、家族、ケアラーなど、ユーザーが「信頼できる連絡先」として指定した第三者が対象となる。
AI によるリスク検知メカニズム
OpenAI のシステムがユーザーの発言内容から深刻な安全上の懸念を自動的に識別し、介入のトリガーとする。
影響分析・編集コメントを表示
影響分析
この発表は、生成 AI が単なる情報処理ツールから、ユーザーの精神的な安全を守るための能動的なパートナーへと進化しようとする重要な転換点を示しています。特に自殺や自傷行為といった深刻なリスクに対処する際、AI の検知能力と人間社会のセーフティネットを連携させる実装は、業界全体の倫理基準引き上げに大きな影響を与えるでしょう。
編集コメント
ユーザーの生命に関わる重大なリスクに対し、AI が自動的に人間へ橋渡しを行う仕組みは、技術的革新というより社会的責任の実装として極めて重要です。ただし、誤検知によるプライバシー侵害や、依存症などの複雑な問題への対応が今後の課題となるでしょう。
ジェス・ウェザーベッド
クリエイティブ産業、コンピューティング、インターネット文化に焦点を当てたニュースライターである。ジェスはキャリアの初期を TechRadar で過ごし、ニュースやハードウェアレビューを担当した。
OpenAI は、ChatGPT の成人ユーザーがメンタルヘルスや安全上の懸念に対して緊急連絡先を設定できるオプションの安全性機能を開始する。"信頼できる連絡先"として指定された友人、家族、または介護担当者は、OpenAI がその人物がチャットボットと自傷行為や自殺に関する話題について議論している可能性を検出した場合に通知される。
「信頼できる連絡先」は、専門家が検証したシンプルな前提に基づいて設計されています：誰かが危機にある可能性がある場合、自分が知り信頼する人とつながることは、大きな違いを生み出すことができます」と OpenAI は発表で述べています。「これは、ChatGPT に既にローカライズされたヘルプラインが提供されていることに加えて、もう一つのサポートの層を提供するものです」。
信頼できる連絡先機能はオプトイン式です。成人の ChatGPT ユーザーは、ChatGPT アカウント設定に他の成人（世界的に 18 歳以上または韓国では 19 歳以上）の連絡先情報を追加することでこれを有効化できます。信頼される連絡先は、リクエストを受け取ってから 1 週間以内に招待を承認する必要があります。ユーザーは設定で選択した連絡先を削除または編集でき、信頼される連絡先もいつでも自分自身を削除する選択肢を持っています。
OpenAI は、この通知は「意図的に制限されたもの」であり、信頼できる連絡先とチャットの詳細や転写文を共有しないと述べています。もし OpenAI の自動システムが、ユーザーが自分自身に危害を加えることについて話していることを検知した場合、ChatGPT はそのユーザーに対して信頼できる連絡先に助けを求めるよう促し、連絡先が通知される可能性があることを伝えます。OpenAI によると、「特別に訓練された少数のチーム」がその後状況をレビューし、会話が深刻な安全上の懸念を示すと判断された場合、ChatGPT は信頼できる連絡先に簡潔な電子メール、テキストメッセージ、またはアプリ内での ChatGPT の通知を送信します。
これは、9 月に導入された緊急連絡先機能に基づいたものです。この機能は ChatGPT のペアレンタルコントロール と同時に発表されましたが、その背景には、数ヶ月にわたり ChatGPT に打ち明けた後、16 歳の少年が自殺したという出来事がありました。
原文を表示
Jess Weatherbed
is a news writer focused on creative industries, computing, and internet culture. Jess started her career at TechRadar, covering news and hardware reviews.
OpenAI is launching an optional safety feature for ChatGPT that allows adult users to assign an emergency contact for mental health and safety concerns. Friends, family members, or caregivers designated as a “Trusted Contact” will be notified if OpenAI detects that a person may have discussed topics like self-harm or suicide with the chatbot.
“Trusted Contact is designed around a simple, expert-validated premise: when someone may be in crisis, connecting with someone they know and trust can make a meaningful difference,” OpenAI said in its announcement. “It offers another layer of support alongside the localized helplines already available in ChatGPT.”
The Trusted Contact feature is opt-in. Any adult ChatGPT user can enable it by adding contact details for a fellow adult (18+ globally or 19+ in South Korea) in their ChatGPT account settings. The Trusted Contact must accept the invitation within a week of receiving the request. Users can remove or edit their chosen contact in the settings, and the Trusted Contact can also choose to remove themselves at any time.
OpenAI says that the notification is “intentionally limited” and will not share chat details or transcripts with the Trusted Contact. If OpenAI’s automated systems detect that a user is talking about harming themselves, ChatGPT will then encourage the user to reach out to their Trusted Contact for help, and let them know the contact may be notified. A “small team of specially trained people” will then review the situation, according to OpenAI, and ChatGPT will send a brief email, text message, or in-app ChatGPT notification to the Trusted Contact if the conversation is determined to indicate serious safety concerns.
This builds on the emergency contact feature that was introduced alongside ChatGPT’s parental controls in September, after a 16-year-old took his own life following months of confiding in ChatGPT.
関連記事
今日のまとめ
AI日報で今日の重要ニュースをまとめ読み