米国、州と連邦で AI セーフティを推進

クリス・レイン氏（チーフ・グローバル・アフェアーズ・オフィサー）

州都からワシントン、さらには国際会議の場に至るまで、最先端 AI のガバナンスに向けた真剣な取り組みが形になりつつあります。これらは一体となり、AI に対する民主的なビジョンを前進させています。

カリフォルニア州、ニューヨーク州、そして直近ではイリノイ州が、最先端安全に関する法案を可決しました。これは国全体として、最も強力な AI システムを統制するための共通の基準へと向かうための一歩です。

これらの取り組みは、OpenAI が「逆連邦主義」と呼ぶ動きに後押しされています。つまり、各州が共通の枠組みを通じて共有される方向性を確立するのです。州主導の動きと連邦レベルでの取り組みが収束し始め、国家基準の姿が見えてきました。これは米国主導のグローバルな AI 枠組みの基盤を築くものです。私たちは、AI が一部の少数ではなく多くの人々にとって利益となることを確実にするためには、最先端安全など重要な意思決定を、最先端ラボ単独ではなく、民主的な政府が行うべきだと考えています。

州レベルでの取り組み

究極的には、米国はこの原則に基づいた国家枠組みによって最も恩恵を受けるはずです。しかし、それがまだ整っていない現状では、各州が互いに類似した法律を制定することで、その方向へと導くことができます。一歩ずつ、事実上の国家基準が作られていくのです。

安全性を最優先とするなら、国家基準を設定することが最も効果的な政策アプローチとなります。これにより、（a）米国がイノベーションの主導権を維持し、規制のパッチワークによって損なわれることなく、民主的価値観に基づいたグローバルな AI スタックを構築する能力を阻害されないようにします。このスタックは、サイバーセキュリティなどの分野で悪意ある行為者による AI の濫用に対抗するために必要なツールを「善き人々」に提供し最適化されるべきものです。（b）米国が国家基準を基盤として、民主的価値観に基づいた安全な AI 導入のためのグローバルなアプローチを主導する最強の立場を確立します。

真に安全性を優先し、国家および国際的な標準を整備して安全な AI の導入を支える枠組みを作りたいのであれば、地道な努力と強い意志、そして州・連邦政府・国際社会をつなぐ戦略が必要です。パフォーマンスや道徳的優越感を示すだけのアプローチでは不十分です。州レベルでの混乱は、持続可能な安全性の確保にとって最善ではなく、むしろさらなる混沌を招くだけです。

このアプローチが成功するためには、カリフォルニア州、ニューヨーク州、イリノイ州のように、各州が中核となる要素で連携し続ける必要があります。広義に言えば、その要素とは以下の通りです：

先端的モデルに対するリスク評価を含む文書化された安全フレームワーク、およびその評価と結果の公開。

重大な安全インシデントの報告義務。

独立した客観的な監査を通じたガバナンスと説明責任。

これら3つの州は、先端的AIの導入に民主的な監視機能を組み込むことに成功しました。カリフォルニア州が核心的な開示フレームワークを確立し、ニューヨーク州はそのアプローチが他管轄区でも採用可能であることを示しました。さらにイリノイ州は、主要な開示事項に対する独立した検証を義務付けることでこれを補完しています。

我々は、法案の可決に必要な支持を集めるために追加的な条項が含まれることも認識しています。しかし、逆連邦主義を通じて事実上の国家基準を確立するために必要な本質的な要素はこれらであると信じています。この規律がなければ、政策の蔓延や規制当局が執行しにくい州法のパッチワークが生じるリスクがあります。それは消費者にとって混乱を招き、開発者、特にスタートアップや中小企業のリソースを安全への投資に回すべきところから逸らせてしまいます。

特にここ数週間の出来事が示すように、AIモデルの能力が高まるにつれ、政府、重要インフラ、同盟国、信頼できるパートナーが適切なツールを利用できるようにする一貫したシステムが必要です。

政策決定者は、任務の拡大（ミッション・クリープ）にも警戒を怠るべきではありません。各州に、重大な国家安全保障リスクの管理や、事実上国全体の安全保障に関する意思決定を行うことを求めるべきではありません。また、高度な技術的レビューも、リソース、専門知識、機密システムへのアクセス権限、そしてチームとの緊密な連携能力を備えた連邦政府の専門家によって処理される方が適切です。

連邦レベル

連邦政府レベルでは、トランプ政権が、最も高度な AI モデルに対するサイバーセキュリティ分野での米政府によるテスト枠組みについて、技術者や国家安全保障の専門家と引き続き協力しています。この枠組みは、テスト基準、スケジュール、およびプロセスを確立するものです。OpenAI は、この取り組みを形作る上で、政権、同業他社、業界団体、その他のステークホルダーと建設的な議論を重ねています。

サイバー評価に関する継続的な作業は、なぜ「一貫性」が重要なのかを示しています。現在、連邦政府の枠組みが完成する前にモデルのテストが行われているのは当然のことです。しかし、各ラボがこのプロセスを進める中で、一つの教訓が明確になりました。州レベルと連邦レベルの両方で、一貫性があり再現可能なアプローチが必要だということです。最も高度なモデルを政府、重要インフラの防衛担当者、同盟国、その他の信頼できるパートナーに委ねるためには、この一貫性が不可欠です。我々は、政権がこの枠組みを 8 月上旬までに整備するという目標を高く評価しています。

連邦レベルのテスト枠組みは、高度な AI ツールを政府機関や重要インフラを守る担当者、同盟国、そして信頼できるパートナーの手元に届けるために役立ちます。これにより民主主義制度が強化され、米国主導の民主的な AI スタックの構築にも貢献します。今こそ、米国のイノベーションにおける優位性を活用し、民主的な AI を支えるべき時です。

定義されていない連邦プロセスや、バラバラな州法だけでは、一貫性のある最前線の安全性体制は築けません。最も能力の高いモデルを評価するにふさわしいテスト担当者が選定され、信頼できる防衛担当者が悪意あるアクターに対抗し続けるために必要な速度でこれらのツールへのアクセスを得られるようなアプローチが必要です。

議会も動き始めています。上下両院の議員、そして与野党を問わず、最近ではジェイ・オバーンノート議員やロリ・トラハン議員らが、州レベルおよび行政府での動向に注目し、連邦枠組みに向けた提案を行っています。成立への現実的な道筋を持つ議論草案が完璧であるはずはありません。しかし私たちは、この取り組みは前向きな一歩であり、その多くの条項は思慮深く、支持に値するものだと考えています。

同時に、上院と下院の指導者たちが国家ガバナンスや最先端技術の安全性に関する提案に真剣に取り組んでいること、また多くの関係者と建設的な対話を行ってきたことを歓迎しています。すでに方向性を合わせた法整備を進めている州の規模と影響力を考慮すれば、それらのアプローチを連邦法に取り入れることで、単一の国家的な最先端技術安全体制を確立しやすくなるはずです。

OpenAI の最先端技術安全性ブループリントでは、この枠組みに不可欠な要素として以下の点を挙げています。

第一に、最も高度なシステムのテストと評価は連邦政府が主導すべきです。最先端 AI は国家安全保障や公衆の安全に関わる課題を提起しており、これには各州が完全に再現できる技術的専門知識、リソース、アクセス権限が必要です。

この取り組みは、バイデン大統領の下で創設され、トランプ大統領の下で強化された「AI 基準・イノベーションセンター（CAISI）」の機能を強化するべきです。CAISI は高度なモデルを評価し、事後の責任追及に依存するのではなく、危害が発生する前に防止することへと最先端技術安全性の重点をシフトさせるために必要な持続的な連邦能力を提供できます。いかなる連邦立法においても、CAISI が政府の他の機関とどのように連携すべきか、またテストの中核としてどのような役割を果たすべきかを慎重に検討する必要があります。

次に、最も高度なシステムを開発する企業には、独立した監査の実施、インシデント報告の義務化、厳格なセキュリティ基準の遵守、そして内部告発者保護などの明確な要件を満たす必要があります。

さらに、連邦政府と州政府の取り組みは相互に補強し合うべきです。各州の法律がすべて同一である必要はありません。私たちは全国の政策決定者と協力し、AI の安全性を強化しながら経済効果を最大化できるよう努めていきます。

また、最先端 AI の安全性に限らず、青少年保護、電力・環境政策、AI 教育やリテラシー向上など、民主主義の実験場としての州の役割も引き続き果たすべきです。

連邦レベルでの枠組みは不可欠です。最先端 AI は国家安全保障、経済競争力、公共の安全といった課題を提起しており、これらには民主的な AI を支えるための国家基準、国家的能力、そして国家機関が最終的に必要となります。

米国主導の国際的な AI 基準枠組みを構築する上で、国家レベルでの立法も極めて重要です。この構想は数週間前に G7 で議論されました。ブラジル、エジプト、インド、ケニア、韓国とともに参加したこの会議では、主要なフロンティア・ラボの CEO が、こうした枠組みの必要性について話し合いました。

その会議の後、OpenAI のサム・アルトマン CEO は『フィナンシャル・タイムズ』で、「米国主導の国際フォーラムを設立し、認められた基準を定め、能力とリスクに関する専門的かつ中立的な分析を提供するとともに、ルールに従って参加する各国や企業に技術を利用可能にする」と提案しました。今週、Google DeepMind のデミス・ハサビス CEO も新しい論文で、考え抜いたアイデアを提示しています。連邦レベルの立法（当然ながら超党派のもの）が、こうした国際的な取り組みを支える強力な基盤となるでしょう。

現在、その機運はあらゆるレベルで顕在化しています。各州では共通のアプローチが確立されつつあり、議会と行政府も国家枠組みの構築に向けて動き出しています。さらに、世界の指導者たちも国際基準について議論を始めています。これらが互いに支え合いながら発展すれば、米国は民主主義的なビジョンに基づいたグローバルな枠組みの開発を主導できるでしょう。そして、この「民主的整合性」のアプローチこそが、真に安全性を最優先する AI への道筋なのです。