OpenAI、カリフォルニア州の若者向け AI セーフティ法案を支持

OpenAI、カリフォルニア州の若者向けAI安全法案を支持

Ann O'Leary氏（グローバルポリシー担当バイスプレジデント）

OpenAIは、若者がAIを利用する際の意味ある保護措置を定めつつ、学習や創造、将来への備えに役立つツールへのアクセス権も守るカリフォルニア州上院法案1119号（SB 1119）を支持します。この方針は、サム・アルトマン氏（OpenAI共同創設者兼CEO）が昨年に若者向けに示した会社の原則へのコミットメントを引き継ぐものです。

連邦レベルでの対応が遅れる中、カリフォルニア州は若者のAI安全に関する強力な基準を設ける好機です。

知事ニューサム宛ての書簡において、OpenAIはニューサム知事をはじめ、スティーブ・パディラ上院議員、バフィー・ウィックス州下院議員、レベッカ・ボーアー＝カーハン州下院議員、そしてカリフォルニア州議会に対し、この重要な課題におけるリーダーシップを称賛しました。SB 1119は、OpenAIが製品を通じて支えてきた若者向け安全対策や、グローバルなポリシー原則、カリフォルニア州でのロビー活動、さらに「親と子供のための安全なAI法（Parents & Kids Safe AI Act）」への取り組みを発展させたものです。ニューサム知事には、同法案の署名による成立を強く推奨します。

AI とともに育つ最初の世代がティーンエイジャーです。週に一度 ChatGPT を利用するティーンのほぼ 9 割は、学習や情報収集、スキル向上、生産性向上のために同サービスを利用しています。この機会には明確な責任が伴います。ティーンにとって発達段階に応じた体験を設計し、強力なデフォルトの保護措置を講じつつ、学び、創造し、探求する適切な機会を提供すべきです。

この考え方を反映したのが、新たにリリースされた ChatGPT for Teens です。18 歳未満の利用者が安全に学習し、批判的思考を育み、創造活動を行うことを支援するとともに、健全な利用を促進します。組み込まれたセーフガードと保護者による追加のコントロール機能も備えています。システムが利用者を 18 歳未満と推定した場合、あるいは本人が年齢を 13〜17 歳と申告した場合は、自動的に「ChatGPT for Teens」モードに切り替わります。これらの保護措置はオプションではなく、すべてのユーザーに適用される基本機能です。

より広く言えば、私たちはティーンが安全を犠牲にすることなく AI の恩恵を受けられると考えています。この考え方は、SB 1119 の根幹にある目標と一致しています。

年齢に適した AI のための強力な枠組み

SB 1119 は、強力な保護措置と有用な AI ツールへの継続的なアクセスを両立させるものです。私たちは以下の主要な要件に強く賛同します：

ユーザーの年齢を特定し、若年層向け製品を提供する前に安全性リスクを特定・対応すること。

独立した監査を実施すること。

自殺や性的搾取コンテンツ、その他の高リスクなやり取りなど有害なコンテンツから若年層を保護すること。

親御さんが子どもの利用を導き制限するためのツールを提供すること。

重大な安全リスクが生じた際に若年層に危機支援リソースへつなぐこと。

ターゲティング広告を制限し、若年層の個人情報を保護すること。

13 歳から 17 歳のユーザーとして特定された場合、これらの保護は自動的に適用されるべきです。この法案は、AI を利用する若年層を保護するためのセーフガードと、実効性のある説明責任を組み合わせたものです。

SB 1119 はまた、AI がソーシャルメディアではないことを適切に認識しています。この法案は、若年層が AI を活用して学び、創造し、探求できるよう支援するために設計された保護措置を定めています。この枠組みの策定にあたり、政策決定者は、ChatGPT のメモリ機能の責任ある利用など、教育上および安全性上で重要な機能をアクセス可能に保ちつつ、思春期の若者にとって安全で年齢に適した体験を促進することを目指しました。

若年層向けにより安全で有用な体験の構築

「ChatGPT for Teens」には、若者が学習を深めるために特別に設計された機能群が用意されています。具体的には、クイズ（Quizzes）、学習ビジュアライゼーション（Learning Visualizations）、そしてスタディモード（Study mode）などです。これらは教育者や学習の専門家と協力して開発され、生徒が問題を段階的に解決できるよう導くことを目的としています。

これらのツールは理解を深め、より確かな学習習慣を育むために設計されています。また、過去の会話からの文脈を利用する機能（メモリ機能など）により、安全対策の一貫性を維持しつつ、懸念されるパターンを早期に察知し、時間とともにより有用な学習支援を提供することが可能になります。

文脈を活用することで、これらの安全対策や学習ツールは、長期的に一貫して効果を発揮します。メモリ機能のような仕組みを通じて、ChatGPT は過去の会話から関連する情報やユーザーの好みを引き継ぎます。これにより、若者は最初からやり直すことなく、より長期にわたる学習プロジェクトを継続できます。この連続性は、有害なパターンの強化を防ぐとともに、支援やリソースが必要な局面で、より効果的な対応を可能にする点でも役立ちます。

安全性と学習のバランスを取ることは、私たちにとって新しい課題ではありません。過去1年間、私たちは親による管理機能や年齢予測技術を導入し、さらにティーンエイジャー向け安全ブループリントを策定するとともに、モデルの振る舞いを規定する「モデル仕様」に18歳未満向けの原則を追加しました。これらは、若年層とのやり取りにおける新たな基準を設定するためのものです。

具体的には、恋愛関係への関与や情緒的依存の助長を禁止し、ChatGPT が人間であるとか意識を持っているといった主張も禁じています。また、親御さんがティーンエイジャーの設定を管理でき、危険な状況では通知を受け取れるような機能も提供しています。

SB 1119 は、カリフォルニア州における若年層の AI セーフティに対する強力な枠組みを確立するものです。実施過程での継続的な研究と協力が、主要な条項の改善や技術進化に伴う枠組みの有効性維持に寄与すると期待されます。OpenAI はこの取り組みへの支援と、ティーンエイジャーを単なるユーザーとして扱うのではなく、彼ららしい存在として尊重し、より強力で自動的な保護機能を提供しながら、学び成長する機会を有意義なものとする AI 体験の構築を続けていくことを楽しみにしています。