OpenAI、青少年の安全な AI アクセスを主張

AI と共に育つ最初の世代となるティーンエイジャーたちにとって、この技術は彼らの未来を大きく形作るものになります。先週だけでも、ChatGPT を利用するティーンの約 9 割が、学習や情報収集、スキルアップ、生産性向上のために活用しています。だからこそ、ティーンが AI にアクセスできる環境を整えることは極めて重要だと私たちは考えます。

もし成人になるまで AI の使用を禁止すれば、それは過去の世代に「18 歳になるまでインターネットや検索エンジンを避けてください」と命じるのと同じです。そうすれば、彼らは自分たちの時代を定義する重要な技術を使いこなす準備が不十分なままになってしまいます。ただし、アクセス権を与える際には、ティーン向けに設計された保護策とセットである必要があります。

最近開催された OpenAI Academy でオリアナ・マッケンジー氏は、ChatGPT がどのようにして彼女の高校での成績を 1 位に押し上げ、より効率的な学習や業務管理を実現したかを語りました。その結果、彼女は大好きなスポーツや学校行事に費やす時間を確保できたのです。彼女の事例は、学びと創造をサポートする AI にアクセスできる環境がもたらす可能性の象徴です。

こうした成果を最大化するためには、ティーンという年齢段階に合わせたより強力な保護策が必要です。具体的には、自信を持って探索・学習・構築ができるよう支援しつつ、年齢に応じた安全装置を備えた自動的なガードレールなどが挙げられます。AI の能力が向上するにつれ、私たちの責任は「広範なアクセス」と「年齢に適した保護」を組み合わせることです。これにより、技術が進化する中でティーンがその恩恵を受けられるようにしていく必要があります。

過去1年間、私たちはティーンエイジャー向けのデフォルト保護機能を強化し、年齢予測機能の導入、保護者向けコントロールの拡充、健全で責任ある利用を支援するための追加リソースの提供、そして単に答えを提供するだけでなく、より深い理解を促す学習機能の導入などに取り組みました。

• 他の目標と衝突する場合でも、ティーンエイジャーの安全を最優先します。
• 必要に応じて、現実世界でのサポートを呼びかけます。
• ティーンエイジャーは「ティーン」として扱います。
• 明確な期待値を設定し、透明性を保ちます。

答えだけでなく、学びのために構築する

AI が若年層にもたらす恩恵の中で、学習支援は最も明確なものの一つです。そこで私たちは、能動的な関与を促し、批判的思考を育み、理解を深めるためのツールを開発しています。

「Study Mode（学習モード）」は、教師や学習科学者、教育の専門家と協力して設計された機能で、単に答えを提示するのではなく、導く質問、構造化された解説、そして振り返りの機会を通じて、生徒が問題を段階的に解決できるよう支援します。この種のツールに関する初期評価では、生徒のパフォーマンス向上に有望な結果が示されています。これは、AI が学習成果をどのように支えられるかという、より広範な研究の方向性を示すものとなっています。

従来は生徒自身がこのモードをオンにすることができましたが、現在は保護者も、リンクされたティーンアカウントから直接 Study Mode を有効化できるようになりました。また、親御さん向けコントロール機能 から設定可能です。このモードを有効にすると、ティーンが新しいチャットを開始する際にデフォルトでオンになり、家族が学校での学習や勉強における ChatGPT の使い方をより適切に導くための新たな手段を提供します。

また、ティーンエイジャー向けに教育目的のスタートプロンプトも新たに導入しました。これにより、トピックを簡単なステップに分解したり、ノートから学習ガイドを作成したり、フラッシュカードや練習問題を作ったり、情報の根拠と明確さを確認したりといったタスクがよりスムーズに始められるようになりました。

インタラクティブな学習体験の拡充も進めています。能動的に概念と関わり、受動的に情報を消費するのではなく、そうすることでより効果的に学べるという研究結果はこれまで一貫して示されています。今年初めに導入してから現在までに、ChatGPT の数学や科学に関するインタラクティブな学習体験を利用する週次ユーザー数は 1800 万人に達しました。また、積分や細胞分裂、月の満ち欠け、光合成など、250 以上の新しいトピックに対応範囲を広げました。さらに、61 カ国語以上の単語の発音を音声でサポートする「発音体験」も新たに導入しています。

ティーンエイジャーを守るための組み込みセキュリティ機能

ChatGPT の利用者が 18 歳未満とシステムが判断した場合、自動的に年齢に合わせたより安全な体験を提供します。ティーンエイジャーは依然として学習や創造、探求のために ChatGPT を活用できますが、不適切なコンテンツへの曝露を減らすための追加的な保護措置が施されます。具体的には、残虐な暴力描写、自傷行為、危険なバイラルチャレンジ、不健康なボディイメージに関する情報、そして危険な恋愛や性的なロールプレイなどに対するガードレールを強化しています。目指すべきは、ChatGPT が学習と創造のためのツールであり続け、現実世界の人間関係に代わるものにならないよう保証することです。

また、健康的な習慣の定着も ChatGPT の設計思想の一つです。長時間 ChatGPT を利用するティーンエイジャーには、より頻繁に休憩を促すリマインダーが表示されるようになりました。これは、AI を学習や創造、問題解決のために使い続ける自由を保ちつつ、若者がバランスの取れたテクノロジー利用習慣を身につける手助けをするためのものです。

私たちは、最適な安全ツールが家族にとって、ティーンエイジャーのオンライン体験を共に乗り越える手助けになると信じています。そこで開発した「ペアレンタルコントロールと通知機能」では、就寝時間の設定や音声モードの無効化、画像生成へのアクセス管理が可能になりました。また、自傷行為の兆候など、リスクの高い状況が発生した際には、保護者に通知を送る仕組みも用意しています。

さらにこの通知機能を拡大し、ティーンエイジャーがアカウントを保有する際に、オンライン上の暴力や暴力的な脅威といった利用規約違反でアカウントが停止された場合にも通知が行くようにしました。このアプローチにより、重大な事態が発生した際にも保護者が把握できるようになりつつ、ティーンエイジャーのプライバシーを尊重し、オフラインでの対話と支援を促すことを目指しています。

これらの機能を開発する過程では、オンライン上の暴力防止におけるリーダー的存在である「Moonshot」をはじめとする複数の専門家に相談を行いました。彼らの知見を活かすことで、介入措置が思慮深く、効果的であり、必要に応じて家族が適切に対応できるよう支援することに焦点を当てたものとなるよう努めました。

外部の専門家、団体、開発者、規制当局との連携

若者のオンライン上の安全を守ることは、特定の企業単独で解決できる課題ではありません。私たちは、ティーンエイジャー、保護者、教育者、児童安全の専門家、メンタルヘルスのプロフェッショナル、研究者、政府、そして市民社会団体と緊密に連携しています。こうしたパートナーシップを通じて、若者のニーズをより深く理解し、新たなリスクを特定し、安全対策の有効性を評価するとともに、独立した専門家の知見に基づいてポリシーを策定しています。

今年度はまた、家族や若者向けの安全なオンライン体験を長年提唱してきた「Family Online Safety Institute（FOSI）」にも加盟しました。私たちは、保護者のエンパワーメントと業界全体の責任ある実践を中核に据え、若者が AI の恩恵を受けられるよう協力してまいります。この連携が、何が有効かという共通理解の深化、年齢に応じた保護策や保護者向けツールの強化、そして若者が安全かつ責任を持って AI を活用できるための業界全体での取り組み支援につながればと願っています。

今後の展望

オンライン上の若者の保護には、継続的な進歩が不可欠です。今後数ヶ月で、私たちは年齢に応じた保護策の強化、保護者へのツールとコントロール機能の拡充、重大な危害を防ぐための安全対策の改善、健全な AI 利用に関する研究の推進、そしてティーンエイジャーが主体的に学び、自信を持って AI を活用できる体験の構築に取り組んでいきます。

私たちは、まだやるべきことがあることを認識しています。今後とも、世界中の若者、保護者、教育関係者、専門家、そしてコミュニティと協力し続け、若者が安全に広く AI にアクセスできる環境の実現に向けて取り組んでいきます。