AI2027の予測チームが提示する「プランA」への導入と反応

Plan A の紹介

AI 2027 を世に送り出した人々が、今度はより奇妙な予測を含む彼らの前向きなビジョンである「Plan A」を紹介しています。AI 2027 は当時多くの人が不気味だと感じたにもかかわらず、現時点で驚くほど正確な予測のセットとして知られています。

これらの人々は非常に強力な予測実績を持っています。AI 2027 の他にも、Daniel Kokotajlo は『What 2026 Looks Like』を執筆しており（これは 2026 年の実際の姿と驚くほど類似しています）、Redwood Research のチーフサイエンティストでもある Ryan Greenblatt は、413 件のエントリーの中で 2025 年に最も正確な AI 予測者として 2 位にランクされました。過去の成績が将来の成功を保証するものではないことは、いつも通りです。

私の投稿を少なくとも一部お読みになった方、あるいは AI 2027 を読む価値があるとお考えの方には、Plan A の読書を推奨します。

また、私とは思考様式が大きく異なる人々のために、非公式のビジュアルノベル版も存在します。

まず明確に述べておきます：私は Plan A を支持しているわけではありません。私が提案しているのは、書かれた通りに Plan A を実行しようとするべきだということではありません。取り組むべき作業は多くあり、潜在的な問題や欠点にも対処する必要があります。

しかし、その作業を行うべきであり、Plan A とその詳細に真剣な検討を払うべきだと私は考えています。

この投稿の大部分は、さまざまな異論に対して段階的に詳しく取り組む内容です。要点だけが必要であれば、『Thus Selective Optimism』の節の後で安全に読むのをやめても構いません。

目次

Plan A の紹介。

あなたはたった 5 つの言葉しか得られない。

異論に対する前向きな対応。

初期の紹介と賛同。

前向きなビジョン。

代替案。

シャットダウンのためのプラン S。

何か（予期せぬほど良い）ことが起こる。

ゆえに選択的な楽観主義。

すぐに、時間はない。

競合条件。

これは多くの拡散と経済成長をもたらす。

中国での生活。

オバートン・ウィンドウのシフトを計画することは不可欠である。

標準的な手振り。

計算資源に対するあらゆる統制を権威主義的ディストピアと同一視する人々と、同じく超知能は実現しないと考えている人々は、ほぼ一致している。

ビタリック・ブテリンは正しい。核心は将来の AI 能力レベルである。

権威主義への異議。

プランの概念。

何でもかんでも詰め込む。

選択的な権威主義の主張。

未来を舵取れるか、できないかの二者択一である。

協調的アライメント。

あなたはたった五つの言葉しか得られない。

いつも通り、プラン A に接する人々の多くはそれを読まないだろう。

彼らはそれを数文に要約するだろう。

どの文が生き残り、どの文が消えるかについては明確な合意がある。

人々が議論する上位 5 つの事項は、関心の度合いの高い順にほぼ以下の通りである：

AI 開発を遅らせるべきだ。

そのためには中国と取引すべきだ。

世界の主要な計算資源を監視すべきだ。

相互確証的計算破壊（MAIM の一種）を利用すべきだ。

それでも事態は極めて速く進行し、ASI が 2040 年に到来するなど、その前に膨大な経済成長がもたらされるだろうと感じられる。

Axios のアシュリー・ゴールドはこのプランを以下のように要約している：

Ashley Gold: 2025 年の AI 開発による深刻な結果を予測したレポートの背後にあるグループが、新たな処方箋を発表しました。スーパーインテリジェント AI からの危険な結果を回避するためには、すべてを遅くすることです。

これは技術的には誤りではありませんが、あまりにも圧縮された解釈を許容すれば、明らかな誤解が生じます。

そして、この非常に優れた引用も含まれています：

Daniel Kokotajlo: 聴衆がおそらく耳を貸さないだろうと考える場合でも、実際に良いとされることを推奨することは依然として価値があると思います。

最も強く、また大声で、ある意味では最良の異議は、以下のような形式のものであるでしょう：

Plan A 反対派：スーパーインテリジェンスはそう遠くない将来には到来しない。脅威は現実的ではないので、それに対処するために高いコストを払うべきではない。すでに十分にゆっくりであるものをさらに遅くする必要はない。

極端な例として、放射線科医に何が起こらなかったかという教訓から人々が学ばなかった理由を疑問視する Joshua Saxe のような人物が現れます。ああ、そういえば、しかし私は率直に言うことを評価し、Timothy Lee の反応にはさらに感銘を受けました：

Timothy B. Lee: 新しい AI 2040: Plan A ウェブサイトについて何を言うべきか悩んでいます。私にとってすべてがあまりにも非現実的に思えるため、どこから手をつけていいかわかりません。スーパーインテリジェンスがほぼ全能を意味すると考える人々と（私のようには考えない）人々の間には、認識論的な断絶が存在します。

私は、人々がこれを非常に直感的なレベルで信じていることに気づきました。そのため、それについて意味のある議論を行うことは困難です。それぞれの側は、反対の直感を持つ人に遭遇したときに困惑し、ある程度では彼らが真剣に話していることを信じられないのです。

Timothy Lee 氏を説得して考えを変えてもらえるよう、十分な時間をかければ可能になるのではないかと願っています。彼は議論を真摯に受け止める方であることを示していますから。しかしこれまで、実用的な目的において、十分に高度な AI が実際にすべてのことができるという事実を、そのような人々に納得させるための説得力のある論拠を見つけることはできませんでした。

上記で述べた反対派の主張の前提は間違っていると私は考えます。スーパーインテリジェンスは間もなく到来する可能性が高く、研究ラボも同様に考えています。しかし、多くの人が同意していません。もしあなたがその同意しない側の一人なら、Plan A やそれに似たものを絶対に実装すべきではありませんし、それを明確に言うべきです。

仮にあなたが誤っているというシナリオを考慮したいかどうかに関わらず、これは真実です。この点についてはあなた次第であり、「ノー」という回答も尊重されるべきものです。

他者が行う主な 10 の批判を、私の言語（ITT を通過させる意図はありません）に翻訳したものは以下の通りです：

アメリカは決してそれを行わない。あなたはアメリカ（または政府）を理解していない。

中国は決してそれを行わない。あなたは中国（またはその政府）を理解していない。

このシナリオは、これが競争であるという点を理解していない。あるいは、このシナリオは、現在これが競争として見られ、扱われているという枠組みに過度な重点を置いている。

これはまだ速すぎる、あるいはあまりにも遅すぎる。許容できない。

これは不要だ。市場はアライメントを処理できるし、すべて簡単なのだから、心配するのをやめろ。お前はいつか何かがまずくなるかもしれないと警告したが、これまではすべて順調だった。「減速」や「一時停止」という言葉に共鳴するものには反対し、そのような行動が不可能で信用できない、あるいは『無知』であると人々に植え付けようとするつもりだ。

これは現実の費用と制限を伴うことだ。私はこれがアメリカだと考えていた。計算資源に対する統制は権威主義（全体主義？！）的なディストピアであり、すべてがそうなるのだ。

これもまた機能しない。技術的な理由でうまくいかないか、アライメントがあまりにも難しいからだ。完全な一時停止が必要だ。あるいは、より良いバージョンではこう言うべきだろう：損失を勝利に変える世界は十分には存在しない。

経済予測はあまりにも楽観的すぎる。

このシナリオは混乱を招くものだ：現実的な予測と願望を混同している。また、人々は特定の重要な点にしか注目しないので、それらを曖昧にする必要がある。

このシナリオには起こりにくいことが含まれている。何も起きないことはないが、これは何かが起きていることだ。しかもお前がでっち上げたのだ。決して起きないだろう。

これらの多くが対称的であることは、シナリオが何かを正しく行っていることの兆候だ。

これらの異議に対する私の基本的な反応：

その態度ではダメだ。もし真実なら、すぐに代替案を見つけることに着手しろ。

その態度ではダメだ。もし真実なら、すぐに代替案を見つけることに着手しろ。

私はこれが、これをレースのように語るのにほぼ適切な量だと考えている。

可能であれば、よりゆっくり進める方が望ましいですが、それは実現可能性の問題です。

そうお考えなら、あなたはプラン A などの取り組みに反対すべきですが、その考えは誤りです。

はい、大きな課題に対処するにはしばしば現実的なコストを伴いますが、そのような行動を権威主義、ましてや全体主義と同一視してはいけません。この計画はこの悪影響を最小限に抑えるよう努めています。より良い実施方法のアイデアをお持ちであれば、おっしゃってください。

これは健全な議論と強い異議申し立てのためのトピックだと私は考えます。

彼らは楽観的すぎると思いますが、狂信的ではありませんし、中期的な経済へのインパクトが劇的に少ない状況でも、この計画とシナリオは成立すると考えています。

これがそのようなシナリオの性質です。彼らは最善を尽くしたと思います。

一見ありえないような出来事も実際に起こり得ます。ありえない出来事が一つも起きないシナリオ自体が、さらにありえません。そして AI において私が確実に知っていることは、多くの大きな出来事がこれから起こるということです。結果は文字通り最大に悪いものから最大に良いものまで幅広く、ほとんど何の変化もないという状況はそうそうあり得ません。

これらの多くに対する拡張版は、本稿の後半で含まれています。

異議への積極的対応

他にも長いリストの他の異議があります。私が主要な 10 の異議を挙げた後でも、私のオープンスレッドへの回答の大きな割合がカバーされていないことが分かりました。

AI 2040 は AI 2027 と同様に、一般的なものと稀なものを含む人々の懸念や異議に、補足資料を通じて積極的に答えようとしています。

珍しい例として、トム・デイヴィッドソンは、計算リソースの過剰供給（compute overhang）という「乾いた薪」の問題を懸念しており、これについてはここで、そして相互確証された計算破壊（mutually assured compute destruction）という考えを通じて回答しています。カート・ティグスもまたこの過剰供給について懸念を抱いています。

ネイサン・ヤングは、「Plan A に関する共通ノート（Common Notes on Plan A）」を提案し、コミュニティノート（community notes）の機能をインターネット全体に広げようとする試みを行っています。

初期の紹介と推薦

これに取り組んだ一人であるスコット・アレクサンダーが、ここで導入文および正当化論を記しています。

一方、なぜこれを読むべきであり、なぜ重要なのかを示すより短い提案は以下の通りです：

ロメオ・ディーン：近い将来、人類はあらゆる点で人間よりも賢い AI の創造という課題に直面せざるを得なくなります。これは恐ろしい見通しです。Plan A は、私たちがその局面に立ち向かった場合に、これをうまく進めるためのビジョンです。

エリ・ライフランド：国際的な調整を通じて素晴らしい AI 未来を実現するための計画である「AI 2040: Plan A」をようやく公開できることを嬉しく思います。これには多くの労力を費やしており、これが超知能（superintelligence）にふさわしい真剣な扱いをもたらすような代替案の議論を喚起することを願っています。

バック・シュレゲリス：この計画が発表されたことを本当に嬉しく思います。これは AI による災害を防ぐための可能な計画のスペクトルに関する、最良の要約だと考えています。

Ryan Greenblatt: Plan A は、強力な AI を扱うための良い計画のように思えます。あるいは、誰かが書き上げた中で最良の計画かもしれません。当初は多くの選択肢が狂気のように見えますが、実際にはかなり慎重に検討されたものです。Plan A が実現する可能性は低いですが、このようなものを推進することは価値があると思われます。

Plan A の優れた性質の一つは、部分的または低品質な実装に対してある程度頑健であることです。したがって、近接する提案もまだ良いものに見え（より悪く行われたバージョンがより良いバージョンへとブートストラップできる可能性があります）。核心となる検証と（非常に強力な）透明性は、かなり先まで通用するのに十分です。

Eli Tyre: Plan A は、スーパーインテリジェンスに近づいていく世界が取るべき行動について、私が知る限りで最も包括的で熟考された単一の計画です。特異点を生きたまま通過したいのであれば、これが私が現在目指すべきプレイブックの最良の推測です。この推測が現在の最良のものとなっている主な理由は、状況の詳細に実際に取り組む真剣な候補者があまりにも少ないからです。

Nevin Freeman: AI において何が*あるべきか*を理解しようとする際、これは絶対的に読む（または聴く）べきものです。潜在的な破滅について推論し、それをどう回避するかを確保することは非常に難しく、さらに難しいのは、多くの人々が理解できる具体的な物語としてアイデアを形にすることです。関係者全員に心から感謝します。

Jeffrey Ladish: 私たちはかなり深刻な状況にありますが、コースを変更できます！@DKokotajlo の Plan A 記述と AI 2040 シナリオをチェックすることを強くお勧めします。

スティーブン・アドラー：急速に到来し、我々が準備を整える前に現れるスーパーインテリジェンスという世界的な災厄に対する「AI 2027 チーム」の計画があることに非常に感謝しています。決して完璧なものではありませんが、批判者たちがより強力な対抗ビジョンを提示してくれるのをぜひ見てみたいものです；それはかなり難しいことのように思えます。

ジョニー・ミラー：誰かがこれを Netflix 品質のプロダクションとして制作する資金を提供し、一般の人々に何が近づいているか警告を与えるべきです。

アンディ・マスリー：「AI 2027」には続編として「AI 2040: Plan A（プランA）」が存在します。これは物事がうまくいくシナリオです。私はその初期レビューアーの一人となりました。アライメント（調整）の難易度や高度な AI の経済性については極めて中立的な見解を持っていますが、このシナリオは以下の特定の世界観の下でどのような世界が実現しうるかという最も明確かつ具体的な記述となっています：

• 極めて急速な AI の進展
• 現在のアライメント（調整）は非常に困難である
• AI は経済における人間の投入を非常に効果的に代替可能である
• プラン A では、グローバルレベルで物事が適切に統治されていると仮定する

これらすべてについて私は手を上げて「まったく見当もつかない」と言わざるを得ませんが、AI 論争の異なる側面が自らの前提を明確にし、その結果として生じる帰結がいかに驚くべきものであるかを提示してくれるときはいつも嬉しく思います。

私が完全に中立的な立場にあるこれらの前提を踏まえると、結論に穴を見つけることがいかに困難であったかには驚きました。超高速成長シナリオにおいてデータセンターによって形成されるグローバルエネルギーシステムのあり方は、私を数多くの深遠な考察へと導くことになりました（その他にも多数の点で）。

チャーリー・バルロック：ベイエリアの合理主義者が、重要な政策提案を構造的にポストモダンな媒体形式である小説を通じて伝えることを好む傾向は、私にとって決して飽きることがない。もしこれが世界中で規範となれば、より親切で穏やかな世界になるだろう。私の次の草案法案には、ヴィクトリア朝後期のロンドンを舞台にした 25,000 語の「あなた自身で選ぶ冒険」形式の小説を載せたい。

明確に言っておくが、私はこの作品が好きであり、人々が未来を非常に詳細な方法で考えようとし、具体化しようとしていることは良いことだと考える。しかし、記述的事実として、この出版物はフィクション（小説）であるという点は真実だ。著者たちもこの主張に異議を唱えることはないだろう。

ボーアズ・バラク（OpenAI）：私は AI 2040 の「プラン A」のすべてに同意するわけではないが、非常に考え抜かれた内容だと考える。私が特に気に入っている要素の一つは、透明性の向上と普及を推進することだ。

安全性とは、情報をロックダウンし、最先端モデルを研究所や政府、選ばれたパートナーのみで制限することを意味するのではなく、彼らの計画の重要な構成要素は、情報の共有と配布を最大化することにある。

アンドレス・ローザ：ついに、前向きな道筋が示された

ジャック・ガラーは、これが彼がこれまで読んだ中で最も重要なものだと呼んだ。私はそこまで言わないが。

前向きなビジョン

彼らはプラン A を前向きなビジョンと呼んでいる。

リチャード・ngo の言うように、これは楽観的なシナリオとも呼び得るだろう。

AI 2027 に対する強い批判の一つは、二つのシナリオを提示したものの、私たちが取るべき行動や実践的な前進の道筋を示さなかった点です。著者らが予想するデフォルト・シナリオでは、私たちは皆死んでしまいます。

AI 2027 の代替シナリオでは、重要な局面でハードリセット（初期化）を行うことになりますが、これは戦略や計画、あるいは前向きなビジョンというよりは、ハイレイ・パス（最後の望み）のようなものであり、著者らは理論的に可能であることを示すために結果を良くするよう設定しています。

Plan A は現在の状況から始まるアップデート版です。主に予測であるのではなく、私たちが協調し（各種の強制および検証メカニズムを含む）、スーパーインテリジェンス（ASI）の開発速度を緩やかにして、うまくいく可能性を最大化するという、可能なる未来への前向きなビジョンを描いています。最終的に 2040 年には、そのバトンが AI に引き継がれ、特異点（シンギュラリティ）が本格的に進行し、 hopefully 私たちは最初の試みで正しく対応し、事態は好転するでしょう。

Plan A の提案された実装方法は、アメリカと中国が AI 開発を緩やかにし、研究情報を共有するための相互利益のある合意に達することです。既存および新規のチップ供給に対する共同管理が確立され、既存のチップ集積地の位置に関する共通知識が得られ、データセンターへの普遍的な監査が行われます。双方は、この合意が遵守されていることを検証できます。

これはかなり空想的に聞こえるかもしれませんが、数ヶ月前にアメリカ政府がミソス全体の問題に対してどのように対応したかを説明していたとしたら、その時にも同様に空想的に聞こえたはずです。何かしらの決断を迫られています。著者たちは、ここでどの道筋が実現可能かを見極めるために、本当に多くの労力を投資しました。

一連の適切な決定を下すことで、経済的にも含めて物事は順調に進み、最終的にはハッピーエンドを迎えます。ただし、スピード bumps なくというわけではありません。移行がゆっくりであってもその変化は非常に急激であり、技術的な問題が処理されたとしても、依然として多くの現実的な課題が残ります。彼らは、中国が積極的に不正行為を行う場合や、不十分な安全性のケースが承認される場合など、別の展開の可能性も検討しています。

移行期間中、アメリカは爆発的な経済成長を遂げ、その一部を急速に増加する市民配当（UBI の極めて寛大な形態）として支払い、またごく一部の資金は様々な形の防御的加速に充てられます。この過程でさまざまな課題が議論されます。

2040 年に垂直方向への移行が依然として非常に速く聞こえるのは、著者たちの現在のベースラインまたはデフォルトシナリオではこれが 2030 年に起こるためです。

Plan A の重要な焦点は、研究の完全な透明性です。ダニエル・コカタイル（Daniel Kokotajlo）はこの図を作成し、なぜ彼がこれほどまでにそれを重視するのかを説明しています。詳細はリンク先をご覧ください。

代替プラン

彼らはまた、代わりにプラン B、C、D、または S を選択するシナリオについても簡潔に記述しています：

プラン A: 協調的な減速。中国との合意形成。

プラン B: 中国と戦う。他者の努力を妨害して時間稼ぎを図るような形での対立。

プラン C: リード（先行権）を燃やす。おおよそ AI 2027 シナリオに相当し、若干の認識の深化を含む。

プラン D: ASI（人工超知能）への競争。ミソス以前から我々が歩んできた道であり、現在も主にその軌道上にある。

プラン S: すべてを停止する。名前の通りである。彼らは同情は示すが、不安定であり合意形成が困難なため推奨はしない。

大まかに言えば、2028 年の大統領選挙は AI が主題となるだろうと予測している。なぜならその時点では AI が主要課題であることが明白となり、候補者たちが大胆な政策を掲げるようになるからだ。そして 2029 年にそれが実施されるが、彼らが望んでいるのはプラン A の実現だ。

プラン A には多様な詳細や異なるトピックに関する探求が含まれている。関係者はほとんど誰も目にしない部分に多大な労力を注いでいる。これらについて掘り下げる応答記事は、シナリオそのものと同程度かそれ以上に長くなることも容易に想像できる。しかし、これはそのような記事ではない。

これらの詳細の多くはSFのように聞こえます。なぜなら、それらは未来を予測しようとする真剣な試みだからです。SF物語を信じるべき時が来ました。なぜなら、私たちは今まさにその中に生きているからです。その道筋には無数の可能性があり、この見解が間違っているかもしれません。しかし、非常にSF的な出来事がすでに起こっており、今後さらに多くのことが起きようとしています。

シャットダウンのためのプランS

この視点は上記の異議#7の一形態であり、プランAの成功の可能性については否定的ですが、それが私たちに十分な勢いを集めさせてプランS（完全なシャットダウン）へと移行させる可能性については肯定的です。

Nate Soares (MIRI): AIに関する未来を論じる人々と私は多くの点で合意しています。これは私がこれまで見た中で、最も具体的なポジティブな未来のビジョンであり、他を圧倒するものです。

彼らのプランAが記された通りに機能するとは疑わしいですが、それが世界指導者たちを説得してプランSへと切り替えさせる証拠を生み出すチャンスはあります。私はそのチャンスがあると思います。

なぜプランAではないのか？人間とAIがアライメント（整合性）に取り組む場合、間違った答えに収束する可能性が高いです。正直な答えはおそらく「現代の方法と何らかの類似点を持つものを使ってスーパーインテリジェンスへと押し進めるのは破滅的です；後退すべきだ」となるでしょう。しかし、人間がそれを聞くよりも、無理やり押し通す可能性の方が高いのです。

しかしもし人類がプランAを追求する際に特に有能で、かつ特別に幸運であり、警告の兆候に耳を傾けることができたなら、私たちはプランSへのオフランプ（分岐点）へと進み、生き残ることができると想像できます。つまり、プランAを試みることは完全に致命的とは見なされません。

あるいは alternatively:

Damian Tatum: 再び、代替経路を読み進めている最中ですが

もし、私やネイト・ソアレスがそうであるように、勝算は低く状況は絶望的だと考える立場に立つなら、あらゆる勝利のシナリオには、多くのことが予期せずうまくいく必要がある。

その理由は