ChatGPT の「信頼できる連絡先」機能、安全上の懸念時に周囲へ通知
本文の状態
日本語全文を表示中
詳細モードで約3分の本文を読めます。
同じ出来事の情報源
この情報源を基点に整理
The Verge AI
OpenAI は ChatGPT に任意の安全機能を追加し、自殺や自傷行為などの話題を検知した場合、事前に登録した友人や家族に警告を送る仕組みを導入しました。
Source Article
元記事を日本語で読む
本文に関係しない購読案内、埋め込み通知、サイト内プロモーションは除いています。
ジェス・ウェザーベッド
クリエイティブ産業、コンピューティング、インターネット文化に焦点を当てたニュースライターである。ジェスはキャリアの初期を TechRadar で過ごし、ニュースやハードウェアレビューを担当した。
OpenAI は、ChatGPT の成人ユーザーがメンタルヘルスや安全上の懸念に対して緊急連絡先を設定できるオプションの安全性機能を開始する。"信頼できる連絡先"として指定された友人、家族、または介護担当者は、OpenAI がその人物がチャットボットと自傷行為や自殺に関する話題について議論している可能性を検出した場合に通知される。
「信頼できる連絡先」は、専門家が検証したシンプルな前提に基づいて設計されています：誰かが危機にある可能性がある場合、自分が知り信頼する人とつながることは、大きな違いを生み出すことができます」と OpenAI は発表で述べています。「これは、ChatGPT に既にローカライズされたヘルプラインが提供されていることに加えて、もう一つのサポートの層を提供するものです」。
信頼できる連絡先機能はオプトイン式です。成人の ChatGPT ユーザーは、ChatGPT アカウント設定に他の成人（世界的に 18 歳以上または韓国では 19 歳以上）の連絡先情報を追加することでこれを有効化できます。信頼される連絡先は、リクエストを受け取ってから 1 週間以内に招待を承認する必要があります。ユーザーは設定で選択した連絡先を削除または編集でき、信頼される連絡先もいつでも自分自身を削除する選択肢を持っています。
OpenAI は、この通知は「意図的に制限されたもの」であり、信頼できる連絡先とチャットの詳細や転写文を共有しないと述べています。もし OpenAI の自動システムが、ユーザーが自分自身に危害を加えることについて話していることを検知した場合、ChatGPT はそのユーザーに対して信頼できる連絡先に助けを求めるよう促し、連絡先が通知される可能性があることを伝えます。OpenAI によると、「特別に訓練された少数のチーム」がその後状況をレビューし、会話が深刻な安全上の懸念を示すと判断された場合、ChatGPT は信頼できる連絡先に簡潔な電子メール、テキストメッセージ、またはアプリ内での ChatGPT の通知を送信します。
これは、9 月に導入された緊急連絡先機能に基づいたものです。この機能は ChatGPT のペアレンタルコントロール と同時に発表されましたが、その背景には、数ヶ月にわたり ChatGPT に打ち明けた後、16 歳の少年が自殺したという出来事がありました。
原文を表示
Jess Weatherbed
is a news writer focused on creative industries, computing, and internet culture. Jess started her career at TechRadar, covering news and hardware reviews.
OpenAI is launching an optional safety feature for ChatGPT that allows adult users to assign an emergency contact for mental health and safety concerns. Friends, family members, or caregivers designated as a “Trusted Contact” will be notified if OpenAI detects that a person may have discussed topics like self-harm or suicide with the chatbot.
“Trusted Contact is designed around a simple, expert-validated premise: when someone may be in crisis, connecting with someone they know and trust can make a meaningful difference,” OpenAI said in its announcement. “It offers another layer of support alongside the localized helplines already available in ChatGPT.”
The Trusted Contact feature is opt-in. Any adult ChatGPT user can enable it by adding contact details for a fellow adult (18+ globally or 19+ in South Korea) in their ChatGPT account settings. The Trusted Contact must accept the invitation within a week of receiving the request. Users can remove or edit their chosen contact in the settings, and the Trusted Contact can also choose to remove themselves at any time.
OpenAI says that the notification is “intentionally limited” and will not share chat details or transcripts with the Trusted Contact. If OpenAI’s automated systems detect that a user is talking about harming themselves, ChatGPT will then encourage the user to reach out to their Trusted Contact for help, and let them know the contact may be notified. A “small team of specially trained people” will then review the situation, according to OpenAI, and ChatGPT will send a brief email, text message, or in-app ChatGPT notification to the Trusted Contact if the conversation is determined to indicate serious safety concerns.
This builds on the emergency contact feature that was introduced alongside ChatGPT’s parental controls in September, after a 16-year-old took his own life following months of confiding in ChatGPT.
関連記事
News to Guide
ニュースの次に確認する
発表内容を、現在の料金や仕様と照らし合わせられる関連ガイドです。
今日のまとめ
AIデイリーブリーフで今日の重要ニュースをまとめ読み