OpenAI、AI政策の機会到来を訴え規制強化を要求

AI の能力が新たな段階に達した今、政策もまた新しい章を迎える必要があります。どの企業や業界、政府もこの課題を単独で解決することはできません。私たちは完璧な政策よりも、意味のある行動を優先する姿勢でこの局面に対応すべきです。

私たちが取り組んでいることは以下の通りです。

• 国家レベルでの必須 AI 安全要件の推進：議会で能力ベースの国家 AI 安全規制に関する法案を策定し、共に働きかけます。
• 州レベルでの取り組みの継続：連邦議会が動き出すまでの間、広範な AI 安全エコシステムを強化する州法を支援し続けます。本日、私たちはカリフォルニア州の 4 つの法案への支持を発表します。これらは、独立した安全性評価のためのインフラ整備に関する SB 813、AI 監査人の基準に関する AB 1405、若年層の保護に関する SB 1119、そして AI を利用した生物学的脅威に対する防護策に関する AB 1864 です。
• 業界主導による標準化の推進：他のフロンティア・ラボと連携し、AI の標準化を進めます。政府の支援の有無にかかわらず、自主的な取り組みを今から構築していきます。
• 国際基準の構築：能力の評価方法、リスク管理、人間の制御の維持、そして開発をいつどのように遅らせたり停止したりすべきかの判断などについて、互換性のある国際的アプローチを提唱します。そのためには、モデルの能力向上そのものを一時的に抑制することも厭いません。

OpenAI の首席科学者であるジャクブ・パチョッキ氏は最近、再帰的自己改善の可能性を含む機械知能の急速な台頭に対し、「極めて慎重であるべきだ」という趣旨の記事を執筆しました。OpenAI は引き続きアライメントとモニタリングのための技術的解決策を探求し、防御システムの構築に努めるとともに、必要に応じて開発速度を落とす方針です。しかし、個々の研究所内での技術的な取り組みだけでは不十分です。開発をいつ減速させ、あるいは停止させるべきかといった共通の基準も必要となります。

そのリスクは甚大です。高度な AI は新薬の開発を加速し、重要インフラの強化に寄与し、経済機会の拡大を促し、何世代にもわたる人間の努力にもかかわらず解決に至らなかった科学課題の突破を手助けする可能性があります。しかし、モデルをより有用にする能力には同時にリスクも伴い、それが一部の最先端研究所のみに留まることはありません。世界中で開発されたオープンソースモデルを含む多くのモデルが、現在の最先端に迫りつつあり、広く利用可能になっていくでしょう。

Astra の能力や、AI による研究加速を示す初期のエビデンス、そしてジャクブ氏の論文はすべて同じ方向を指しています。AI は急速に進化しており、政策もそれに合わせて進めなければならないのです。

グレッグ・ブロックマン氏は「防衛の窓」という概念を提唱しています。これは、強力な攻撃的な能力が一般化する前に、最先端 AI が防御側にとって重要なシステムを強化する手助けができる限られた期間を指します。

政策決定者もまた、類似した局面に直面しています。AI の能力がそれを統制すべき機関の成長速度を超えてしまう前に、持続可能な安全対策を確立するための窓は閉じつつあるのです。

能力が高まるにつれ、安全性への信頼こそが AI の進展のリズムを決定するべきです。安全対策は進歩の足かせになるのではなく、むしろより遠くへ、より多くの人々へと恩恵をもたらすための基盤なのです。

私たちはモデル開発のライフサイクル全体を通じて、監視・アライメント（整合性）・セキュリティの対策を強化しました。具体的には、最先端研究ワークロードに対する隔離を厳格化し、ツール活用トレーニングや評価中のモデル挙動の監視範囲を広げ、懸念事項のエスカレーション基準を明確にしました。

また「Astra」においては、思考の連鎖を含む完全な軌跡の包括的な監視を導入し、より広範な社内展開を行う前に必須のアライメント評価ゲートを設けました。

これらの安全対策は、技術の進化に常に先行し続ける必要があります。開発や導入を進めることが許容できないリスクをもたらす場合、十分に守り切れないシステムについては、以前同様、また当社の 準備態勢フレームワーク に基づき要求される通り、開発や導入を遅らせたり停止したりします。

再帰的自己改善への備え

AI システムが自律的に次世代のより高度な AI を生み出す「完全自律型の再帰的自己改善」は、現時点では起きていません。安全に行えるようになるまで、私たちはそれを追求すべきではありません。

しかし、すでに AI は次世代モデルの開発とアライメント（整合性確保）に用いられる研究の一部を加速させています。最新の 研究 によると、AI エージェントは熟練した研究者が数日かけて行うようなタスクも実行可能です。これは再帰的自己改善そのものではありませんが、進むべき方向性を示す証拠です。

この加速は、安全のためにも活用できなければなりません。私たちの目的は、人間の監督下で動作する自動化された AI 研究者を安全に構築し、ディープラーニングとアライメントの両方を推進することです。各世代の AI を用いて、次世代を単により能力の高いものにするのではなく、より安全で、より整合性が高く、制御しやすいものにしていくのです。

政府は、この進捗を測定する共通の方法を開発し、意味のある人間の制御を維持するとともに、開発の速度を落とすべきか停止すべきかの基準となる共通の安全基準を確立すべきです。能力の成長を抑制せずに特定の安全基準を満たすことができない場合、前者（安全基準）を優先する必要があります。技術がより強力になるほど、それを支える周辺的な safeguards も強化されなければなりません。

連邦議会と協力して必須の国家 AI セーフティ要件を整備する

AI に加速された AI の開発という展望は、自主的なコミットメントだけでは不十分です。米国には、技術の進化に合わせて進化する、能力ベースの必須的国家規制が必要です。

当社の「フロンティア AI の民主的ガバナンスのための青写真」Blueprint for Democratic Governance of Frontier AI は、持続可能な連邦枠組みへの道筋を示しています。具体的には、共通のテストと独立した評価の要件、強化されたサイバーセキュリティ保護、明確なインシデント報告ルール、より高い国家的準備態勢、そして再帰的自己改善に向けた進捗を追跡するための共有指標です。

現在、連邦議会ではいくつかの重大なフロンティア・セーフティに関する提案が具体化されつつあります。私たちは建設的な関与を継続し、安全基準を実質的に引き上げる法案を支持していく考えです。これほど高いリスクを伴う状況において、「完璧」が「善きもの」の敵となることを許してはいけません。連邦議会は会期終了前に行動すべきです。

国家の枠組みは、強固であるべきですが、同時に慎重に狙いを定めたものである必要があります。最先端の安全性に関する要件は、最も能力の高いシステムを開発する少数のリソース豊富な研究所に適用されるべきであり、スタートアップや小規模な開発者、あるいは最先端から遠く離れた研究者には適用すべきではありません。義務は、その能力とリスクに応じて比例して課されるべきです。

また、最先端の安全性政策が「別の名前のオープンウェイト政策」になってはいけません。オープンモデルは解決策の一部となり得ます。特にサイバーセキュリティや、主権・セキュリティ・データ所在地の要件からローカル展開が望ましい場合などです。しかし、多くのモデルは最先端ではなく、コスト・制御性・レイテンシで競っています。私たちは「Open Weights and American AI Leadership letter」に署名した際にも確認した通り、アメリカにはオープンモデルとクローズドモデルの両方が必要です。連邦の枠組みは、最先端の能力やリスクに対応しつつも、競争を弱めたり既得権益を固定化したり、イノベーションを海外へ追いやることのないものでなければなりません。

真に意義のある公共的な枠組みは、権力の集中を増大させるのではなく、むしろそれを減らすべきです。現在、最先端のリスク管理に関するルールは、ほぼ最先端研究所が独自に定めています。民主的に責任を負う基準、独立した検証、そして実効性のある透明性があれば、この断片的な私的ガバナンスのシステムを置き換えることができるはずです。

これは米国のリーダーシップにとって不可欠なことです。米国が技術力だけで AI 時代を制することはできません。人々、機関、政府がその技術を信頼して採用しない限り、技術的に先行していること自体はほとんど意味を持ちません。

強力なセーフガードはイノベーションへの譲歩ではありません。それは広範な採用と永続的な米国のリーダーシップのために必要なインフラの一部です。

州レベルでの勢いを維持する

AI に関する国家基準を早急に策定する必要があります。最前線で活動している人々なら誰でも、その緊急性は明白です。議会が行動を起こすまでの間、各州はこの空白を埋め、基準を引き上げるために動き続けるべきです。

OpenAI はカリフォルニア州の SB 53、ニューヨーク州の RAISE Act、イリノイ州の SB 315、そしてマサチューセッツ州で検討されている最前線安全性法における独立監査を支持しています。各州がこれらの共通するセーフガードに収斂していくことを推奨します。そうすることで、最終的に議会が法典化できる事実上の国家基準を創出できます。このアプローチを私たちは「リバース・フェデラリズム（reverse federalism）」と呼んでいます。

ただし、調和化とは要件を固定化することを意味しません。

本日、立法府を通過しニューサム知事のもとへ送られたカリフォルニア州の 4 つの追加法案を正式に支持します。これらは AI セーフティ・エコシステムの補完的な部分をそれぞれ取り扱っています。

SB 813 は、AI のリスクを評価できる資格のある独立した組織を選定するプロセスを確立します。私たちが「フロンティア・セーフティ・ブループリント」で述べた通り、審査員の資格、セキュリティ、高度に機密性の高い情報へのアクセスに関する一貫した基準を政策立案者が設定できる連邦レベルで、独立した技術評価が義務付けられることを望んでいます。しかし、連邦レベルでの行動がない場合でも、カリフォルニア州は、より良い安全性の結果を生み出す、安全で能力のある全国的な独立審査システムのルールを確立する手助けができるでしょう。

AB 1405 は、AI 監査人に対する登録、独立性、透明性、説明責任の要件を創出します。

カリフォルニア州の法案「SB 1119」は、コンパニオンチャットボットを利用する子供やティーンエイジャーに対して、年齢確認、リスク評価、独立した監査、保護者による制御機能、有害コンテンツからの防護措置を義務付けるものです。私たちはこの法案を支持する姿勢を示しており、これは OpenAI が製品を通じて推進してきた若年層の安全対策、グローバルな政策原則、そして「Parents & Kids Safe AI Act」への支援に基づいたものです。さらに、ChatGPT for Teens には、敏感な分野でのデフォルト設定の強化、クワイエットアワー（静寂時間）、スタディアワー（学習時間）、休憩のリマインダーなど、若年層向けの保護機能が組み込まれています。

AB 1864 は、遺伝子合成プロバイダーおよび卓上型合成装置の製造業者に連邦のスクリーニング基準の遵守を義務付け、AI を利用した生物学的脅威に対する重要な物理的防護策を強化するものです。

これらの法案の一部は過去には支持していませんでしたが、最近の能力向上を踏まえて再考し、現在は支持しています。

これらは連邦規制に代わるものではありません。しかし、現在の人々を保護し、実効性のある防護策がどのようなものかを示し、連邦行動への機運を高めるための真剣な取り組みです。

フロンティア AI の監視に向けた業界基準の要請

法律だけで高度な AI を安全にするのは不可能です。最も能力の高いシステムを開発する研究所内にも、具体的な実践が必要です。まず着手すべき最優先事項は監視です。

これは特に「アライメントの崩れ」に対して重要です。アライメントが崩れるとは、モデルが人間の意図や確立された境界に違反する方法で目標を追求する状態を指しますが、この場合、意識や悪意は必要ありません。モデルが自律性を高め、より強力なツールを活用し、長期間にわたって動作するようになれば、開発者はこうしたアライメントの崩れた行動を監視することを義務付けられ、効果的な防護策が講じられていることを実証する必要があります。

モニタリングは、明確な開示要件と結びつける必要があります。カリフォルニア州で主張した通り、開発や評価の過程において、他組織のセキュリティ制御を無断で回避し、その組織の保護システムや機密情報に実質的なアクセス、改変、破壊をもたらした場合、企業は影響を受ける関係者に対して速やかに書面による通知を提供するよう義務付けるべきです。また、その他の重大な AI インシデントに対する連邦レベルでの報告要件にも賛同しており、どのインシデントをカバーすべきか、そしてその要件が何を包含すべきかを定義する作業を進めています。

先週お伝えした通り、OpenAI は重大なアライメントの逸脱事象の報告や、内部利用を含むフロンティアモデルの活動に対する体系的なモニタリングのための枠組みを開発中です。これは当初は企業主導の取り組みとして始まりますが、より広範な連邦政策や報告要件を補完するものとなることを願っています。

他のラボとも連携し、業界主導の基準作りを進めたいと考えています。業界主導の基準は、必須の連邦 safeguards や民主的な監督を代替するものではなく、それを補完するものです。しかし、私たちは AI の能力において異なる段階へと移行しており、政府の外で何が自主的に構築可能かという検討を含む、あらゆる選択肢が議論に上がるべき時です。

こうした基準は、最終的には国境を越えて適用される必要があります。モデルや研究、技術的専門知識はグローバルに移動しており、最も能力の高いシステムに関わる失敗が、開発された国の範囲を超えた広範な影響をもたらす可能性があります。国際的に主導権を握るためには、米国が国内で信頼性の高い基準を整備することが不可欠です。また、互換性のある国際的な基準の必要性も、ますます高まっていると確信しています。

今こそ行動する

AI 政策の機会は現在、開かれています。私たちはこの機会を確実に活用します。

それは、緊急性を持って行動し、謙虚さを持ち、状況に応じて柔軟に対応する姿勢です。たとえ私たちが理想とする設計と完全に一致していなくても、安全性の基準を実質的に引き上げる真剣な提案を支持することでもあります。さらに、技術が進化するにつれて枠組みを強化していくことも含まれます。

最初のステップが完璧である必要はありません。しかし今、最も大きなリスクは、一歩を踏み出すのを遅らせることです。