Advancing youth safety and opportunity through global leadership｜グローバルリーダーシップを通じた若者の安全と機会の推進 | AIニュース最前線

AI は若者にとって強力なツールとなり得ます。困難な概念の理解、新しい言語の練習、就職面接への準備、創造的なアイデアの探求、新スキルの習得など、さまざまな場面で学生を支援できます。20 世紀半ばに世界的に広がった識字運動が印刷物の大量配布と訓練された教師へのアクセスを必要としたように、今日、安全な AI へのアクセスを提供することは、個別化された学習のための新たな機会を開き、取り残されやすい層の障壁を減らし、労働力の準備度を高めることにつながります。 その潜在的な利益が非常に大きいため、若者が安全で年齢に適し、健全な発達を支援する方法で AI にアクセスできることが不可欠です。この責任は主に保護者や若者自身に負わせるべきではありません。OpenAI を含む企業には、デフォルトで適切なセーフガードを備えた製品を開発する責任があり、同時に家族が AI の利用方法を導くためのツールと情報を提供してエンパワーメントすることも求められます。 今月末、フランスのエヴィアンで開催される G7 首脳会議に各国の指導者が集まる際、若者の AI セーフティは主要な焦点の一つとなります。OpenAI は参加し、若者安全におけるさらなる協力、業界基準を高めるための連携方法、そして OpenAI が新たに提唱する国際的な若者安全研究所の設立について議論します。 G7 首脳サミットは、若者の安全に関する世界的な協調のためのめったにない機会を表しています。しかし、専用の研究所を設立することで、単一のサミットを超えて必要な継続性と後続の取り組みが可能となり、政府、研究者、市民社会、産業界が協力して、証拠を共有し、ガイダンスを開発し、長期的に基準を引き上げることを支援できます。 これを実現するにはいくつかの信頼できる方法があります。新しい国際研究所を設立するか、既存または新たに設立された国の AI 研究所（AI Institute）に、世界中のパートナーと研究・証拠・ガイダンスを共有するグローバルな権限を与えることです。最も重要なのは、それが果たす機能です。若者のための AI セーフティには、技術の進展に合わせて継続的な注力、信頼できる証拠、そして実践的なガイダンスが必要です。 そのような研究所は、OpenAI 財団（OpenAI Foundation）の支援を受ける Common Sense Media の若者向け AI セーフティ研究所（Youth AI Safety Institute）のような新興イニシアチブを基盤とすることができます。また、[アメリカ教師組合（American Federation of Teachers）との OpenAI の取り組み](https://openai.com/global-affairs/aft/) など、教育者との実践的な協力とも連携すべきです。さらに、エストニアの学校における国家レベルの ChatGPT 導入のような実世界での展開事例からも学ぶべきであり、ここでは OpenAI がスタンフォード大学およびエストニアの研究機関と協力してその影響を研究し、学習におけるより安全で効果的な利用を促すための情報を提供しています。 OpenAI は、この重要な取り組みにおいてフランス政府、他の G7 諸国、そして市民社会・学界・産業界のパートナーと協力し、若者の安全に関する世界的な基準を高める機会を歓迎します。 ## 若者向け AI セーフティにおける世界的基準の設定 我々は、G7 会合で達成される可能性のあるいかなる合意も含め、強力な若者向け AI セーフティ・フレームワークは、ここで提示する原則によって主導されるべきであると信じています。 - 企業は、ユーザーが未成年者であることを認識し、年齢に応じた保護措置を講じるべきです。これには、有効かつプライバシーを尊重する年齢推定手法などを用いて未成年者と成人を区別することをプロバイダーに義務付け、ユーザーの年齢が特定できない場合は自動的に保護的なセーフガードを発動することが含まれます。この基盤なくしては、最も善意に基づく若年層向けの保護措置でさえ、本来守るべき若者に届かない可能性があります。 - 企業は、危害が発生する前に若年層に対するリスクとベネフィットを定期的に評価し、それに対処するための措置を講じるべきです。これには、プロバイダーに毎年若年層の安全リスク評価を実施させ、特定されたリスクに基づいて比例したセーフガードを実装することを義務付けることが含まれます。これらの評価では、若年層の発達段階に基づくリスク、実際の利用からの実証的証拠、および関連する研究や規制ガイダンスを考慮すべきです。評価は潜在的な危害だけでなく、AI が学習、創造性、スキル開発、そして機会のアクセスといった肯定的な成果を支えているかどうかについても検討する必要があります。 - 保護者や後見人は、子供たちの経験を導きつつ、年齢に応じた自立性を支えるために、利用しやすくアクセス可能なコントロールを有すべきです。これには、メモリ、データ使用、時間制限などの主要設定を管理するためのツールが含まれるべきです。保護者向けツールは、その存在を知り使い方を理解してもらえるよう積極的に推進されるべきです。 - 家族は、企業が若年ユーザーをどのように保護しているかについて明確で理解しやすい情報を得る権利があり、また若年層による AI 利用のベネフィットとリスクに関する有意義な情報も提供されるべきです。企業は、若年層を保護するためのセーフガードの内容、利用可能な保護者向けツール、およびリスクの変化に伴う保護措置の更新方法について説明する安全ポリシーを公開すべきです。この透明性は信頼を構築し、保護者が情報を得た上で選択を行うのを助けます。 - 企業は、自傷行為、搾取、誘拐（グーミング）、性的搾取的コンテンツ、およびその他の高リスクなやり取りを含む深刻な安全状況に対処するための明確なプロトコルを整備すべきです。これには、サービス中のサポート、適切なリソースへの紹介、必要に応じてタイムリーな保護者への通知が含まれるべきです。また、企業はシステムを設計する際、子供にとって不適切または危険なコンテンツ（グロテスクな性的・暴力的な素材を含む）が生成されないようにすべきです。 - 若年層が使用する AI システムは、学習や発達、現実世界での人間関係を代替するものではなく、それらを支援するように設計されるべきです。AI は、若年層が学び、創造し、スキルを築き、未来に備えるのを助けるツールとして機能すべきです。同時に、健全な発達には人間の判断、現実世界の関係性、専門家のサポートが不可欠な領域において、企業は明確な境界線を設けるべきです。 - 未成年者の個人情報は保護されるべきです。これには、若年層に対するプライバシーを侵害するターゲティング広告の禁止、および企業の個人情報売却の禁止が含まれます。 - 若年層の安全フレームワークは、機会の創出、リテラシーの向上、そして保護を促進すべきです。若年層は、学習、創造性、スキル開発、将来の機会を支える AI ツールへのアクセス権を持つべきであり、同時に AI を安全かつ責任を持って利用するために必要な知識と批判的思考力を備えているべきです。これには、AI リテラシーの推進や、若年層がデジタル空間で自信を持って、かつ責任ある態度で関わるために、AI システムの機会と限界を理解する支援が含まれます。 - 独立した監査を含む強力な説明責任メカニズムは、これらの保護措置が実質的に機能することを確保するために不可欠です。監査は、管轄区域を超えて相互運用可能な監査を可能にする一連の共通基準に基づいて行われるべきです。法的枠組みには、政府が企業が若年層安全セーフガードを効果的に実施しているか、特定されたリスクを軽減しているか、そして若年層の安全とプライバシーに関する義務を遵守しているかを評価・執行できる監督および執行措置が含まれるべきです。 これらの原則は、ChatGPT の構築と運用のあらゆる側面——モデルの挙動や製品設計から専門家の意見、実世界でのサポートに至るまで——に反映されています。18 歳未満の利用者に対するセーフガードを強化し、積極的な通知機能付きで [保護者向けコントロール](https://openai.com/index/introducing-parental-controls/) を導入しました。また、[年齢予測システムの高度化](https://openai.com/index/our-approach-to-age-prediction/) を進めることで、利用者が 18 歳未満である可能性のある場合に ChatGPT がより強力な保護措置を適用できるようにしています。 モデルの挙動指針である「Model Spec」には、18 歳未満の利用者向けの [専用原則](https://model-spec.openai.com/2025-12-18.html#chatgpt_u18) も含まれており、ティーンエイジャーの安全、年齢に適切な体験、実世界でのサポート、明確な期待値を最優先しています。具体的には、自傷行為、危険な活動、過激なコンテンツ、ボディイメージ、秘密保持に関するガードレールを強化し、必要に応じて信頼できるオフラインの支援者や危機対応リソースへの相談を促す内容となっています。 年齢が不明確な場合は、原則としてより強力なセーフガードを適用します。 強力なセーフガードを備え、明確なガイダンスと家族や教育者からのサポートを提供されることで、AI は若者が学習、創造性、そして機会の拡大につながるツールを安全に活用できるよう支援します。AI は学生が難しい概念を理解し、言語の練習を行い、ライティングを改善し、コーディングを学び、研究を整理し、創造的なアイデアを探求し、すでに変化している仕事に備えるのを助けることができます。[Education for Countries](https://openai.com/index/the-next-phase-of-education-for-countries/) を通じて、OpenAI は政府や教育者と協力し、エビデンスに基づき、実際の教室のニーズに応じた AI 導入を実現するために、研究駆動型の展開、ローカライズされた学習ツール、教員研修に取り組んでいます。この取り組みはすでに、エストニア [Estonia](https://openai.com/index/estonia-schools-and-chatgpt/)、ギリシャ [Greece](https://openai.com/global-affairs/openai-for-greece/)、シンガポール [Singapore](https://openai.com/index/introducing-openai-for-singapore/) などのパートナー国における国家レベルの教育活動を支援しています。 ## OpenAI at the G7 Summit リーダーズサミットへの参加に加え、OpenAI フォーラム（新しいウィンドウで開く）をパリに招き、政府、研究者、市民社会、教育者、業界が共有する若者の安全目標を、具体的な保護措置、基準、実施プラクティスへと転換する方法について、実践的な対話の場を設けます。フランスの AI およびデジタル担当大使であるクララ・シャパズは、OpenAI のチーフグローバルアフェアーズオフィサーであるクリス・レイン、iRaise/Everyone.AI の若者安全リーダー、その他の専門家と共に、若者がリスクを軽減しながら AI からいかに恩恵を受けられるかについて議論します。

グローバルリーダーシップを通じた若者の安全と機会の推進

背景や根拠まで確認しますか？

関連記事

調べる

選ぶ

サイト