OpenAI Offers A New Policy Blueprint｜OpenAI が Frontier AI の民主的ガバナンスに関する政策青写真を発表 | AIニュース最前線

新しい大統領令が出た直後こそ、OpenAI の新たな文書『先端的 AI の民主的ガバナンス：連邦枠組みのための青写真』を提供する絶好のタイミングであるように思われます。 OpenAI: 私たちはまた、今日のシステムにおいて再帰的自己改善（RSI）の初期兆候も確認しています。これは、AI 開発自体が AI によって加速される状況を指します。 私たちはこれが開発者間および国家間の競争圧力を高め、既存の機関では対応できないガバナンス上の課題を生み出すと予想しています。RSI が顕在化するにつれ、社会は AI 開発の軌道に形を与え、それが人間の利益に奉仕することを確保するための手段を必要とするでしょう。 私は上記の発言を「グラス半分満ちている」という楽観的な視点で捉えます。はい、これは問題の全範囲について完全に正直に語っているわけではありませんが、現時点ではこれを受け入れましょう。 OpenAI は民主主義を称賛し、米国が独自の立場にあると指摘するとともに、SB 53 モデルにおいて透明性と国家能力、特に新モデルの評価能力の重要性を訴えています。彼らは CAISI に権限付与を求め、良き政府の実現、計算資源における優位性の維持など、他にも多くの優れたアイデアを提案しています。 実装の詳細は非常に重要ですが、この文書は期待を遥かに上回っています。 ![image](https://substackcdn.com/image/fetch/$s_!aqXX!,w_1456,c_limit,f_auto,q_auto:good,fl_progressive:steep/https%3A%2F%2Fsubstack-post-media.s3.amazonaws.com%2Fpublic%2Fimages%2Fd53f60e5-3840-4107-bd92-e3343520ae51_1221x488.png) ピーター・ウィルデフォード：OpenAI は「今日のシステムにおいて、再帰的自己改善（Recursive Self-Improvement）の初期兆候も確認されている」と述べています。RSI は「今後 10 年間で最も重要なフロンティア安全上の課題となる可能性がある」としています。 シェイクイル：新着情報として、OpenAI が連邦レベルのフロンティア AI 安全フレームワークに関する青写真（ブループリント）を公開しました。 この青写真は、CAISI（連邦 AI 安全研究所）に対し、「最も能力の高いフロンティアモデル」に対する必須評価プロセスの実施を求めています。ただし、明確に「CAISI の役割は評価を実施し、緩和策を推奨することであり、デプロイの承認や阻止を行うことではない」と明記しています。 また、企業には「適切な安全対策の実装」が求められ、「安全義務」への違反があった場合、「実効性のある説明責任メカニズム」が存在すべきだと述べています。ただし、CAISI による評価または内部評価でモデルのデプロイが危険すぎると示された場合に具体的に何が行われるべきかについては不明瞭な点があります。 さらに、SB 315 に類似した連邦フレームワークの構築と、「同じフロンティア安全リスクを規制しようとする州法」の優先適用（連邦法による州法の排除）も求めています。 特筆すべきは、この青写真が再帰的自己改善に大きな焦点を当てている点です。CAISI が「RSI を緊急の優先事項として扱い」、政策決定者に対して RSI に向けた進捗への継続的な可視性を与える独立した技術評価のための基準を開発するよう求めています。 サム・アルトマン氏は現在ワシントン DC に滞在しており、マイク・ジョンソン下院議長やハキーム・ジェフリーズ少数党リーダーを含む政策決定者らと会合を行っています。 ディーン・W・ボール氏：これは妥当な提案のように思えます！ CAISI という民間機関が、主に非機密の方法でこのテストを実施することは、それがライセンス制度化されることを防ぐための方法です。トランプ大統領令によるプロセスの分類は、テストが事実上の必須許可・ライセンス制度へと変質するリスクを高めるものです。 昨日入手したもう一つの文書は、『2026 年大米人工知能法』という不気味な名前のついた、全 269 ページに及ぶ草案でした。その後、私は主にこの法案の先例措置（preemption measures）に対する懸念を抱く人々を非難する人々の群れを目撃しました。 常にそうであるように、私は GAAIA 法案について、その内容を直接読む（RTFB: read the bill）ことができるまで、判断を保留します。詳細が重要です。 それとは対照的に、信頼性の追跡を除けば、誰が誰について何を言ったかという事実は、ほとんど重要ではありません。SB 1047 の事例で見たように、人々は単に何かを言い、あるいは他人が何かを言ったと主張するでしょう。その主張の多くは誤り甚至是ば荒唐無稽であり、そのような人々に対して何らかの結果が生じることはほとんどないか、全くありません。 OpenAI の青写真に戻りましょう。 何を望むのか？ 彼らは以下のことを望んでいます： 国家セキュリティおよび公共の安全に対する最前線のリスクに対処する。 民主的ガバナンスを推進する。 透明性を促進する。 イノベーションを保護する。 適応的な制度を構築する。 これらは素晴らしい提案であり、完全な記述はさらに優れています。これらは基本的な称賛の光（applause lights）を超えていますが、もちろん多くの称賛の光も含まれています： 国益と公共の安全に対する最前線のリスクに対処する。あらゆる最前線安全性フレームワークの主要な目標は、高度な汎用 AI システムがもたらす最も深刻なリスクを軽減することである。これには、サイバーおよび CBRN（化学・生物・放射能・核）脅威に関連するリスク、RSI（自己増殖型知性）の進展、そして壊滅的な結果をもたらす可能性のある制御喪失シナリオが含まれる。 民主的ガバナンスを推進する。社会が最前線 AI のリスクをどのように管理するかに関する決定は、単独で行動する民間企業ではなく、代表政府を通じて行われるべきである。最前線の安全性ガバナンスは、自由な社会の強みを反映すべきである：透明性、公的な説明責任、独立した監督、そして法の支配。 透明性を促進する。政府、研究者、企業、一般市民は、最前線 AI がどのように開発され、評価され、展開されるかについて信頼できる情報を必要としている。透明性は説明責任を生み出し、独立した検証を支援し、政策決定が証拠に基づいていることを確保するのに役立つ。 イノベーションを保護する。最前線の安全性フレームワークは、スタートアップ、研究者、および最前線能力の上に構築する開発者にとって不必要な障壁を作ることなく、最も結果の重大なリスクに焦点を当てるべきである。それはリスクを軽減しつつ、今日の産業構造を法律によって固定化してはならない。 適応的な制度を構築せよ。AI は急速に進化しており、フロンティアガバナンスは技術の進展に合わせて進化できる能力を持たなければならない。政策決定者は、学習し、実験し、新たな証拠を取り込み、時間とともに基準を更新できる制度を創出すべきである。 文書全体に共通するテーマは、OpenAI が責任を CAISI に集中させ、NSA への権力の集中を避けたいと考えている点である。私はこれに強く同意し、その重要性を信じている。 これらの優先事項には矛盾があるが、これは優れた出発点である。 文書の後半では実施計画が示されており、高レベルの視点では明確に良いアイデアであり、良い出発点を構成している： この青写真はその目標達成のための三部構成戦略を概説する： 州のフロンティア安全法に反映された新興合意を活用した国家枠組みの構築。 CAISI を米国連邦政府におけるフロンティア AI 安全性の主要機関として強化すること。 政府全体に広範なレジリエンス計画を動員し、フロンティア AI がもたらす国家安全保障および公共安全上の課題に対処すること。 国家枠組み OpenAI は、CAISI の強化によって執行されるカリフォルニア州の SB 53、ニューヨーク州の RAISE Act、イリノイ州の SB 315 を基盤として国家枠組みを構築することを提案している： 深刻なリスク評価と緩和措置。 透明性要件（フロンティア安全フレームワークの公開を含む）。 独立した評価および監査。 重要な安全性インシデントの検出および報告。 モデル重みのセキュリティ要件。 内部告発者保護。 意味のある説明責任メカニズム。責任の所在。包括的な安全港の排除。 その見返りとして、連邦議会は最先端技術に関する安全性を巡る州法を優先する。 原則論として、詳細が適切であれば、これは「正解」であり、死にたくない人が受け入れを検討できる最低限の実現可能な合意となる可能性がある。しかし、5 つの大きな懸念がある。 意味のある説明責任とは、単なる言葉ではなく、実際に実効性のあるものにならなければならない。また、根本的な被害に対する責任の所在も維持されねばならない。違反に対する 100 万ドルの罰金ではこのレベルには到底足らない。10 億ドルの罰金であっても、それ単独では不十分だろう。我々は実際にコンプライアンスを強制できる必要がある。 これらの法案を連邦レベルに引き上げるなら、実施と執行を担う主体が誰であるかは誰もが知っている。実効性のある罰則を伴った本当の法案が可決され、執行された場合、その結果は明白となるはずだ。しかし、実際には……執行されないか、あるいは恣意的かつ選択的にしか執行されないという現実がある可能性も十分にある。「できる」という状態が意味を持つのは、実際に実行されて初めてである。 デフォルトでは、州法案の薄められた政治的妥協を取り上げ、さらにそれらがすでにかなり弱い内容であるにもかかわらず、これらに対してさらなる妥協が行われ、さらに弱体化させられることになります。最初の提案が最良の提案となり、その後守るべきものになるリスクがあります。この取引が受け取る価値のあるものとなるためには、法案の集合体を超え、SB 315 を超える必要があります。特に執行されないリスクを考慮すると、これは重要です。「この取引は常に悪化している」というモードに入ってしまったら、撤退する時です。 もし「フロンティア・リスク」のすべてに対する先制権（preemption）を受け入れるとすれば、それは州が AI について逆効果な法律を制定できるが、重要なものについてはできないことを意味し、さらに議会が二度と行動しないというリスクがあります。私たちは、具体的に何を先制権に含めるかについて非常に慎重である必要があります。同様の条項を排除することは問題なく、むしろ良いことです（例えば、監査やフレームワーク、特に透明性に関するものです）。しかし、「フロンティア・リスク」のすべてを対象とし、議会が再び行動することを諦めてしまうのであれば、単なる modest な透明性のための代償としては非常に大きなものになります。 これは「私たちはやった、フロンティア・リスクを修正した」として扱われるかもしれませんが、残念ながら全く違います。 根本的な問題は、もし私たちがすべての執行を連邦レベルに集中させ、優先権（preemption）を受け入れることに合意すれば、それは実行されねばならず、実効性のあるものとし、優先権は適切に調整される必要がある一方で、それがそうならない可能性について非常に懸念する理由があるということです。また、私たちが得られると信じている取引が、交渉の一端やスリップリー・スロープ（滑り台）の片側にならないよう警戒する必要があります。一度優先権が確立されれば、さらなる修正が善い方向に進むとは限りません。 ネイサン・カルヴィンも同様にここでの多くの点に賛成ですが、優先権を受け入れ、この逆連邦主義（reverse federalism）を放棄することに正当な理由で極めて警戒しています。私もこの取引の一部は非常に慎重に評価される必要があると同意します。 「適切なセーフガードを実装する」「実効性のある執行メカニズムを構築する」と言うのは簡単ですが、デフォルトではそれらが実現しない結果になります。 それでも、これは真剣な提案、あるいは少なくとも真剣な出発点です。私は同様の枠組みに基づいたものを真剣に検討するでしょう。 州の能力強化と CAISI の構築 最初の部分は恐ろしいものです。なぜなら必要不可欠である一方で、容易に裏目に出る可能性があるからです。 2 番目の部分は単に必要不可欠です。 これはまず、CAISI（Center for Advanced Intelligence and Security Infrastructure）を適切に認可し資金を提供することから始まります。これには採用権限の付与、公務員への登用経路の確立、機密計算リソースの確保、そして NSA ではなく CAISI を経由する必須評価プロセスが含まれます。独立した技術評価も支援されるべきです。 義務的な評価には明白な危険性が伴いますが、それが時間制限付きであり、それ自体が展開を妨げるものではない場合、反対するのは難しいでしょう。つまり、大幅に遅延させない時間枠内で評価を実施する必要があります。これは先端的な研究機関にとって実際に有益なことです。ただし、数値が期待通りに出なかったからといって開発を阻止しなければならないという意味ではありません。 難しい点は、回答が赤信号で返ってきた場合にどうするかです。実際には、赤信号が十分に明確であれば、具体的な権限を与えられていなくても国家安全保障国家と行政機関は行動し、すべての主要な研究機関もその合図を理解して協力します。これが現在の『任意』の行政命令が実質的に任意ではない理由と同じ論理です。 政府全体としてのレジリエンス これは他にも取り組む価値のある良い施策の寄せ集めです： 先端的 AI の安全性に関する協力を促進し、国際的な調整を図ること。特に RSI に向けた進捗についてコミュニケーションを行うこと。 アメリカの計算資源における優位性を保護すること。 未評価の先端的 AI システムの採用を制限すること。はい、まだ安全性評価を行っていないのであれば、関連する先端的モデルを採用すべきではありません。当然のことです。 防御能力が攻撃能力よりも速くスケールするように確保すること。 将来のレジリエンス課題に備えること これらの多くは相当あいまいであり、完全なリストでもありませんが、はい、確かにその通りです。 合理性の高まり したがって、OpenAI がこの青写真（ブループリント）を提案しているのを見て非常に嬉しく思います。これは非常に合理的な文書であり、期待をはるかに上回るものです。これが OpenAI の立場となり、同社が支援する PACs もこれに含められ、特に偽旗作戦など様々な卑劣な手口の使用を停止すれば、私はそれで構いません。 どうなるか見てみましょう。議論は良い方向に進んでいます。私の希望は、まじめに提案される新しい法案に対して、どこに最大の懸念があるかを予測することが難しくなる立場に、間もなく立てることです。

OpenAI が Frontier AI の民主的ガバナンスに関する政策青写真を発表

背景や根拠まで確認しますか？

関連記事

調べる

選ぶ

サイト