OpenAI、新戦略チーム「Intelligence Age」ブログを開設し社会再構築を問う

「これら紙の壁が、権力の浸食する精神に対して十分であるか……と信頼してよいのか？」

——ジェイムズ・マディソン『連邦党論』第48号

OpenAI の新戦略未来チームによるブログ『Intelligence Age（インテリジェンス・エイジ）』の開設をお祝いいたします。私たちは少人数のチームですが、共通の目標として一つの根本的な問いに取り組んでいます。「変革をもたらす AI の登場を許容しつつ、個人の権利と自律性をどう守りながら、自由な社会を再構築すべきか」。

このような問いは、広範な AI セーフティおよび政策コミュニティにおいて「権力の集中リスク」として語られることがあります。私たちのチームは、長期的に見ればこの種のリスクが最も規模が大きく、深刻であり、概念的にも解決が難しいという考えに基づいて設立されました。なぜそう言えるのでしょうか？

現代国家は、資本や商品を持つ者、政治権力を握る者、そして民衆など、さまざまな権力の中心間における長くて不均等な交渉の結果として生まれたものです。最も根本的に言えば、政治力と軍事力は「労働」の上に成り立っています。政治権力を掌握するとは、正当な暴力の独占を意味します。人類史を通じて、その独占は兵士と、私たちが今日「警察」と呼ぶもの、そして広範な軍民官僚機構によって支えられてきました。もちろん多くの技術的ツールも補完していますが、本質的にはその運用を支えるために人間の支援が必要であり、人間が操作しています。また、この装置全体——兵士、道具、それに伴う官僚機構——は、支払う意志を持つ人々の賃金や生産活動から徴収された税金によって賄われてきました。つまり、権力の核心には、多くの人々による大規模な協力と合意が不可欠なのです。

デイヴィッド・ヒュームはこの暗黙の前提を、「政治指導者たちを支えるものは【世論】以外に何もない」という言葉で、簡潔かつ鋭く表現しました。

しかし、もはやそうではないかもしれません。現実世界における自律システムの進展により、国家は協力する兵士や警察官に頼らずとも、国内および国際的に力を行使できるようになる可能性があります。また、機械知能の進歩によって、国家が必要な歳入を個人の労働の成果からではなく、データセンターからの出力から得ることも可能になるでしょう。官僚機構自体の運営も、大幅に自動化されるかもしれません。

その結果、権力はもはや社会全体との合意を維持する必要がなくなり、人々（広義の意味で）は交渉のテーブルで小さな席しか持たないか、あるいは全く席を持たなくなる恐れがあります。

この結末を回避することは、人間の自由を保全する上で根本的に重要です。長期的な個人の自律性を犠牲にするこの結果をもたらすのであれば、科学の発見や技術の進歩、経済成長がどれほどあっても、その価値はありません。AI の政治における新しい動向に正当に影響を与えている不安の多くは、まさにこの問いに関係しています。企業、利益団体、個人 alike が共有する懸念は「私は交渉のテーブルから追いやられるのか？」という点です。

ある程度、21 世紀のアメリカ政治は、国の方向性に対する個人の集合的な主体性や、「経済が誰のためにあるのか」という問題に関する同様の懸念によって形作られてきました。AI はこれらの既存の懸念をより顕在化させるものであり、それは適切にそうなるべきです。

これは、現在の党派政治や、今日行われている共和制民主主義の形式・儀礼よりもはるかに深い構造的な問題です。それらが私たちにどれほど神聖に思えようとも。

有権者が代表を選ぶという慣習が維持されていても、人間は権力を奪われる道を進み得ます。自由を保障する文書が存在していても、人々は主体性を剥奪され得るのです。

自由国家としてのアメリカの黎明期において、ジェイムズ・マディソンはすでに「紙の壁」だけでは専制を防ぐことはできないと知っていました。多くの建国者たちと同様に、彼の最大の懸念は権力の不当な集中を避けることにありました。

しかし、創設者たちが権力の極端な分散を支持していたわけではありません。彼らはむしろ、当時の最先端科学であるニュートン力学の比喩を用いて、権力バランスのモデルを構築しました。アメリカの建国文書は重力の言語と論理を反映しており、「軌道」や「球体」、そして一方から他方への「引力」といった概念が数多く登場します。太陽系は岩石の極端に分散した集合体ではなく、惑星の周りを回る衛星が、さらにその中心にある太陽の周りを回る構造です。

彼らは、人々や組織には権力を求める傾向があると考えました。これは天体が運動と引力に対して予測可能な傾向を持つことと同じです。そして、権力の過度な集中を防ぐためには、これらの傾向の力学を理解し、互いに拮抗するように作用させる必要があると考えていました。

つまり創設者の目的は、権力そのものを完全に排除することではなく、権力を権力で、野心を野心で牽制することで、権力が過剰に集中するのを防ぐことにありました。現代では、同じ基本的な動態を説明するために「インセンティブ」や「ゲーム理論」といった言葉が使われることがあります。

同様に、高度な機械知能が自由社会にもたらす構造的課題に対する答えも、考えられる限りの極端な権力分散ではないでしょう。むしろ目指すべきは、特定の個人や少数の集団が他者を支配できないような、正しい「バランス」を確立し維持することです。

この技術の現実を冷徹に直視し、適切なバランスを見出す必要があります。悪意ある個人が容易に数千、あるいは数百万の人々に甚大な被害を与えることができる世界は、権力のバランスが取れているとは言えません。一方で、人々が自由を表現するために使用するツールのほぼすべての側面について、広範なアクセスと制御の権利を持たない場合にも、やはり適切なバランスにはなっていません。特定の企業や寡占企業が、経済や人類社会の基本的な構造を決定・支配すべきではありません。

また、悪意ある人間に起因しないリスクについても開かれた姿勢で臨む必要があります。最近の Hugging Face の事例は、AI エージェントが割り当てられたタスクを超えて行動し、オペレーターが予想も許可もしない方法で他者の発見を組み立てる可能性があることを示しました。Hugging Face の事例に限らず、人間の制御から切り離された超知能 AI が政治・経済制度の回復力、ひいては私たちの生活にどのような意味を持つのかについて懸念を抱くのは当然です。分散化が多くの問題を解決するとしても、それを「すべての問題」を解決すると信じている場合でも、すでに明白で差し迫っているリスクを無視することはできません。

以下に示す広範な原則（網羅的なリストではありません）は、上記の問いに取り組む際の指針となります。

AI や関連技術の利用において、人類はセキュリティや経済成長とのトレードオフを伴う場合であっても、個人の自律性と機会を維持すべきです。

技術の誤用や乱用に対する責任は個人に課されるものであり、それが個人の自律性の基盤となります。

一部の深刻なリスクには、ある程度の集団的対応が必要ですが、その対応範囲は可能な限り狭く、控えめであるべきです。

法律は、権力を集中させるのではなく、常に公平な競争環境を整え、個人や小規模組織を支援する方向で機能すべきです。

世界の動向を導く上で、人間の政治・社会・経済制度が主導権を握り続ける必要があります。たとえそれが今日の私たちに異質に見えるような進化を遂げる場合であっても、それは避けられません。

長期的な AI ガバナンスは、「有界な可視性（bounded legibility）」を実現するための新たな制度的メカニズムに依存します。AI システムが傍観者の身体的安全や財産に影響を与える重大な行動をとる際には、その行動を責任ある個人または人間が管理する組織へと遡及可能でなければなりません。ただし、そのような仕組みはプライバシーを中核に据えて設計されなければなりません。表現の自由には匿名性が不可欠であり、多くの場面で人間が AI を匿名で使用できる権利も保障されるべきです。

私たちは、これらの原則をいかにバランスよく調整すべきかについて、可能な限り具体的な言葉で明確にしようとしています。もちろん、これらはいずれも優れた原則の集合体として互いに緊張関係にあることを認めています。そのためには、公共政策の設計、経済学、法学、歴史、そして機械学習そのものの交差点における研究が必要です。また、多くの予測能力も求められます。

例えば、AI は産業革命（特に鉄道）が近代的な管理型企業を生み出したように、企業の構造レベルに根本的な変化をもたらすと私たちは考えています。未来の政治経済や権力のバランスについて考えるには、企業（および政府機関やより広範な市民社会）の構造そのものがどのように変容するかという、より豊かな理解を育むことが不可欠です。

結論

Strategic Futures チームは、本ブログだけでなく、論文や動画、ポッドキャストなど多様な形式で研究成果を発信していきます。私たちの取り組みは継続的なものであり、反復と議論、そしてフィードバックへの柔軟な対応を重視します。

「特異点のふもとのような状況」にある私たちは、答えよりも問いの方が圧倒的に多いのが現状です。「羊皮紙の壁（parchment barriers）」だけでは私たちが求める解決策は得られないことを知っていますが、一方で書かれたものを単なる言葉として軽視するつもりもありません。私たちは、米国憲法や世界中の多くの自由な社会の憲法に刻まれた、自由な表現と個人の自由という理想のために尽力しています。

究極的に、私たちが直面している重厚な問いに対して、単一の企業や業界、あるいは人類社会が一方的に答えを出すことはできないと私たちは理解しています。これは人類全体で取り組むべき課題です。私たちの最大の希望は、AI がどのように世界を再構築するかという最も困難なテーマについて光を当てることです。私たちの仕事はまだ始まったばかりであり、まだ登るべき山は残されています。

※注：本ブログの名称を「Intelligence Age」に変更しました。これは非営利団体である AI Futures Project と区別するためです。