AI2027の予測チームが提示する「プランA」への導入と反応
AI予測の権威あるグループが提唱する「Plan A」は、中国との協力や計算資源の監視・相互確証破壊を通じてAI開発を抑制し、ASI 到来による経済成長と安全を両立させる具体的なビジョンである。
キーポイント
予測実績に基づく提言
「AI 2027」などで高い的中率を示したDaniel Kokotajlo氏らによる、計算資源の監視や中国との合意形成を含む具体的な対策案。
5 つの核心要素
開発停止、中国との取引、計算資源の監視、相互確証破壊（MAIM）、そして2040年頃のASI到来と経済成長の並存が主要な議論点。
反論への体系的対応
権威主義的懸念や「計画不可能性」などの批判に対し、オバトンウィンドウの変化や協調的アライメントの必要性を論理的に反証している。
超知能の脅威に対する根本的な認識の隔たり
記事では、AI開発の危険性を認める側と「超知能はすぐには来ない」と考える懐疑派の間で、前提となる直観や認識に決定的な違い（epistemic chasm）があることが指摘されている。
Plan A への反対意見の核心
主要な反対論は「超知能の脅威は現実的ではなく、そのために高いコストを払って開発を遅らせる必要はない」というものであり、一部には放射線科医の例を引き合いに出す極端な見解もある。
懐疑派への誠実な対応の要請
著者は、超知能が近い将来に来ると信じる人々が Plan A を支持すべきだと主張しつつ、反対する立場の人々もその信念に基づいて明確に「No」と言うべきであり、それは尊重されるべき姿勢であると述べている。
計画への反対意見と反論
市場任せや「停止」への抵抗、コストの懸念などに対する反論として、現実的な対案の検討や過度な悲観主義の是正が求められている。
重要な引用
We should slow down AI development.
To do that, we should make a deal with China.
We should use mutually assured compute destruction (a version of MAIM).
Things will still happen super fast and feel like it, e.g. ASI by 2040, with vast economic growth before this.
There's an epistemic chasm between those who think superintelligence implies near-omnipotence and those (like me) who don't.
We think it's still good to recommend what would actually be good, even if you think that your audience is probably not going to listen.
影響分析・編集コメントを表示
影響分析
この記事は、AIセーフティ分野における従来の「開発停止」論から、「国際協調による計算資源管理」というより具体的かつ現実的な政策提言へと議論の軸足を移す重要な転換点を示しています。特に中国との協力やMAIM（相互確証破壊）の概念導入は、地政学的リスクを考慮した新たな規制フレームワークの構築に向けた議論に大きな影響を与える可能性があります。
編集コメント
AIセーフティの議論において、単なる悲観論や理想論ではなく、地政学を踏まえた具体的な実行プラン（Plan A）が提示された点は極めて重要です。ただし、著者自身も「推奨するものではない」と断言しており、これはあくまで検討すべき重要なシナリオの一つとして捉えるべきでしょう。
Plan A の紹介
AI 2027 を世に送り出した人々が、今度はより奇妙な予測を含む彼らの前向きなビジョンである「Plan A」を紹介しています。AI 2027 は当時多くの人が不気味だと感じたにもかかわらず、現時点で驚くほど正確な予測のセットとして知られています。
これらの人々は非常に強力な予測実績を持っています。AI 2027 の他にも、Daniel Kokotajlo は『What 2026 Looks Like』を執筆しており（これは 2026 年の実際の姿と驚くほど類似しています）、Redwood Research のチーフサイエンティストでもある Ryan Greenblatt は、413 件のエントリーの中で 2025 年に最も正確な AI 予測者として 2 位にランクされました。過去の成績が将来の成功を保証するものではないことは、いつも通りです。
私の投稿を少なくとも一部お読みになった方、あるいは AI 2027 を読む価値があるとお考えの方には、Plan A の読書を推奨します。
また、私とは思考様式が大きく異なる人々のために、非公式のビジュアルノベル版も存在します。
まず明確に述べておきます：私は Plan A を支持しているわけではありません。私が提案しているのは、書かれた通りに Plan A を実行しようとするべきだということではありません。取り組むべき作業は多くあり、潜在的な問題や欠点にも対処する必要があります。
しかし、その作業を行うべきであり、Plan A とその詳細に真剣な検討を払うべきだと私は考えています。
この投稿の大部分は、さまざまな異論に対して段階的に詳しく取り組む内容です。要点だけが必要であれば、『Thus Selective Optimism』の節の後で安全に読むのをやめても構いません。
目次
Plan A の紹介。
あなたはたった 5 つの言葉しか得られない。
異論に対する前向きな対応。
初期の紹介と賛同。
前向きなビジョン。
代替案。
シャットダウンのためのプラン S。
何か（予期せぬほど良い）ことが起こる。
ゆえに選択的な楽観主義。
すぐに、時間はない。
競合条件。
これは多くの拡散と経済成長をもたらす。
中国での生活。
オバートン・ウィンドウのシフトを計画することは不可欠である。
標準的な手振り。
計算資源に対するあらゆる統制を権威主義的ディストピアと同一視する人々と、同じく超知能は実現しないと考えている人々は、ほぼ一致している。
ビタリック・ブテリンは正しい。核心は将来の AI 能力レベルである。
権威主義への異議。
プランの概念。
何でもかんでも詰め込む。
選択的な権威主義の主張。
未来を舵取れるか、できないかの二者択一である。
協調的アライメント。
あなたはたった五つの言葉しか得られない。
いつも通り、プラン A に接する人々の多くはそれを読まないだろう。
彼らはそれを数文に要約するだろう。
どの文が生き残り、どの文が消えるかについては明確な合意がある。
人々が議論する上位 5 つの事項は、関心の度合いの高い順にほぼ以下の通りである：
AI 開発を遅らせるべきだ。
そのためには中国と取引すべきだ。
世界の主要な計算資源を監視すべきだ。
相互確証的計算破壊（MAIM の一種）を利用すべきだ。
それでも事態は極めて速く進行し、ASI が 2040 年に到来するなど、その前に膨大な経済成長がもたらされるだろうと感じられる。
Axios のアシュリー・ゴールドはこのプランを以下のように要約している：
Ashley Gold: 2025 年の AI 開発による深刻な結果を予測したレポートの背後にあるグループが、新たな処方箋を発表しました。スーパーインテリジェント AI からの危険な結果を回避するためには、すべてを遅くすることです。
これは技術的には誤りではありませんが、あまりにも圧縮された解釈を許容すれば、明らかな誤解が生じます。
そして、この非常に優れた引用も含まれています：
Daniel Kokotajlo: 聴衆がおそらく耳を貸さないだろうと考える場合でも、実際に良いとされることを推奨することは依然として価値があると思います。
最も強く、また大声で、ある意味では最良の異議は、以下のような形式のものであるでしょう：
Plan A 反対派：スーパーインテリジェンスはそう遠くない将来には到来しない。脅威は現実的ではないので、それに対処するために高いコストを払うべきではない。すでに十分にゆっくりであるものをさらに遅くする必要はない。
極端な例として、放射線科医に何が起こらなかったかという教訓から人々が学ばなかった理由を疑問視する Joshua Saxe のような人物が現れます。ああ、そういえば、しかし私は率直に言うことを評価し、Timothy Lee の反応にはさらに感銘を受けました：
Timothy B. Lee: 新しい AI 2040: Plan A ウェブサイトについて何を言うべきか悩んでいます。私にとってすべてがあまりにも非現実的に思えるため、どこから手をつけていいかわかりません。スーパーインテリジェンスがほぼ全能を意味すると考える人々と（私のようには考えない）人々の間には、認識論的な断絶が存在します。
私は、人々がこれを非常に直感的なレベルで信じていることに気づきました。そのため、それについて意味のある議論を行うことは困難です。それぞれの側は、反対の直感を持つ人に遭遇したときに困惑し、ある程度では彼らが真剣に話していることを信じられないのです。
Timothy Lee 氏を説得して考えを変えてもらえるよう、十分な時間をかければ可能になるのではないかと願っています。彼は議論を真摯に受け止める方であることを示していますから。しかしこれまで、実用的な目的において、十分に高度な AI が実際にすべてのことができるという事実を、そのような人々に納得させるための説得力のある論拠を見つけることはできませんでした。
上記で述べた反対派の主張の前提は間違っていると私は考えます。スーパーインテリジェンスは間もなく到来する可能性が高く、研究ラボも同様に考えています。しかし、多くの人が同意していません。もしあなたがその同意しない側の一人なら、Plan A やそれに似たものを絶対に実装すべきではありませんし、それを明確に言うべきです。
仮にあなたが誤っているというシナリオを考慮したいかどうかに関わらず、これは真実です。この点についてはあなた次第であり、「ノー」という回答も尊重されるべきものです。
他者が行う主な 10 の批判を、私の言語（ITT を通過させる意図はありません）に翻訳したものは以下の通りです：
アメリカは決してそれを行わない。あなたはアメリカ（または政府）を理解していない。
中国は決してそれを行わない。あなたは中国（またはその政府）を理解していない。
このシナリオは、これが競争であるという点を理解していない。あるいは、このシナリオは、現在これが競争として見られ、扱われているという枠組みに過度な重点を置いている。
これはまだ速すぎる、あるいはあまりにも遅すぎる。許容できない。
これは不要だ。市場はアライメントを処理できるし、すべて簡単なのだから、心配するのをやめろ。お前はいつか何かがまずくなるかもしれないと警告したが、これまではすべて順調だった。「減速」や「一時停止」という言葉に共鳴するものには反対し、そのような行動が不可能で信用できない、あるいは『無知』であると人々に植え付けようとするつもりだ。
これは現実の費用と制限を伴うことだ。私はこれがアメリカだと考えていた。計算資源に対する統制は権威主義（全体主義？！）的なディストピアであり、すべてがそうなるのだ。
これもまた機能しない。技術的な理由でうまくいかないか、アライメントがあまりにも難しいからだ。完全な一時停止が必要だ。あるいは、より良いバージョンではこう言うべきだろう：損失を勝利に変える世界は十分には存在しない。
経済予測はあまりにも楽観的すぎる。
このシナリオは混乱を招くものだ：現実的な予測と願望を混同している。また、人々は特定の重要な点にしか注目しないので、それらを曖昧にする必要がある。
このシナリオには起こりにくいことが含まれている。何も起きないことはないが、これは何かが起きていることだ。しかもお前がでっち上げたのだ。決して起きないだろう。
これらの多くが対称的であることは、シナリオが何かを正しく行っていることの兆候だ。
これらの異議に対する私の基本的な反応：
その態度ではダメだ。もし真実なら、すぐに代替案を見つけることに着手しろ。
その態度ではダメだ。もし真実なら、すぐに代替案を見つけることに着手しろ。
私はこれが、これをレースのように語るのにほぼ適切な量だと考えている。
可能であれば、よりゆっくり進める方が望ましいですが、それは実現可能性の問題です。
そうお考えなら、あなたはプラン A などの取り組みに反対すべきですが、その考えは誤りです。
はい、大きな課題に対処するにはしばしば現実的なコストを伴いますが、そのような行動を権威主義、ましてや全体主義と同一視してはいけません。この計画はこの悪影響を最小限に抑えるよう努めています。より良い実施方法のアイデアをお持ちであれば、おっしゃってください。
これは健全な議論と強い異議申し立てのためのトピックだと私は考えます。
彼らは楽観的すぎると思いますが、狂信的ではありませんし、中期的な経済へのインパクトが劇的に少ない状況でも、この計画とシナリオは成立すると考えています。
これがそのようなシナリオの性質です。彼らは最善を尽くしたと思います。
一見ありえないような出来事も実際に起こり得ます。ありえない出来事が一つも起きないシナリオ自体が、さらにありえません。そして AI において私が確実に知っていることは、多くの大きな出来事がこれから起こるということです。結果は文字通り最大に悪いものから最大に良いものまで幅広く、ほとんど何の変化もないという状況はそうそうあり得ません。
これらの多くに対する拡張版は、本稿の後半で含まれています。
異議への積極的対応
他にも長いリストの他の異議があります。私が主要な 10 の異議を挙げた後でも、私のオープンスレッドへの回答の大きな割合がカバーされていないことが分かりました。
AI 2040 は AI 2027 と同様に、一般的なものと稀なものを含む人々の懸念や異議に、補足資料を通じて積極的に答えようとしています。
珍しい例として、トム・デイヴィッドソンは、計算リソースの過剰供給（compute overhang）という「乾いた薪」の問題を懸念しており、これについてはここで、そして相互確証された計算破壊（mutually assured compute destruction）という考えを通じて回答しています。カート・ティグスもまたこの過剰供給について懸念を抱いています。
ネイサン・ヤングは、「Plan A に関する共通ノート（Common Notes on Plan A）」を提案し、コミュニティノート（community notes）の機能をインターネット全体に広げようとする試みを行っています。
初期の紹介と推薦
これに取り組んだ一人であるスコット・アレクサンダーが、ここで導入文および正当化論を記しています。
一方、なぜこれを読むべきであり、なぜ重要なのかを示すより短い提案は以下の通りです：
ロメオ・ディーン：近い将来、人類はあらゆる点で人間よりも賢い AI の創造という課題に直面せざるを得なくなります。これは恐ろしい見通しです。Plan A は、私たちがその局面に立ち向かった場合に、これをうまく進めるためのビジョンです。
エリ・ライフランド：国際的な調整を通じて素晴らしい AI 未来を実現するための計画である「AI 2040: Plan A」をようやく公開できることを嬉しく思います。これには多くの労力を費やしており、これが超知能（superintelligence）にふさわしい真剣な扱いをもたらすような代替案の議論を喚起することを願っています。
バック・シュレゲリス：この計画が発表されたことを本当に嬉しく思います。これは AI による災害を防ぐための可能な計画のスペクトルに関する、最良の要約だと考えています。
Ryan Greenblatt: Plan A は、強力な AI を扱うための良い計画のように思えます。あるいは、誰かが書き上げた中で最良の計画かもしれません。当初は多くの選択肢が狂気のように見えますが、実際にはかなり慎重に検討されたものです。Plan A が実現する可能性は低いですが、このようなものを推進することは価値があると思われます。
Plan A の優れた性質の一つは、部分的または低品質な実装に対してある程度頑健であることです。したがって、近接する提案もまだ良いものに見え（より悪く行われたバージョンがより良いバージョンへとブートストラップできる可能性があります）。核心となる検証と（非常に強力な）透明性は、かなり先まで通用するのに十分です。
Eli Tyre: Plan A は、スーパーインテリジェンスに近づいていく世界が取るべき行動について、私が知る限りで最も包括的で熟考された単一の計画です。特異点を生きたまま通過したいのであれば、これが私が現在目指すべきプレイブックの最良の推測です。この推測が現在の最良のものとなっている主な理由は、状況の詳細に実際に取り組む真剣な候補者があまりにも少ないからです。
Nevin Freeman: AI において何が*あるべきか*を理解しようとする際、これは絶対的に読む（または聴く）べきものです。潜在的な破滅について推論し、それをどう回避するかを確保することは非常に難しく、さらに難しいのは、多くの人々が理解できる具体的な物語としてアイデアを形にすることです。関係者全員に心から感謝します。
Jeffrey Ladish: 私たちはかなり深刻な状況にありますが、コースを変更できます！@DKokotajlo の Plan A 記述と AI 2040 シナリオをチェックすることを強くお勧めします。
スティーブン・アドラー：急速に到来し、我々が準備を整える前に現れるスーパーインテリジェンスという世界的な災厄に対する「AI 2027 チーム」の計画があることに非常に感謝しています。決して完璧なものではありませんが、批判者たちがより強力な対抗ビジョンを提示してくれるのをぜひ見てみたいものです；それはかなり難しいことのように思えます。
ジョニー・ミラー：誰かがこれを Netflix 品質のプロダクションとして制作する資金を提供し、一般の人々に何が近づいているか警告を与えるべきです。
アンディ・マスリー：「AI 2027」には続編として「AI 2040: Plan A（プランA）」が存在します。これは物事がうまくいくシナリオです。私はその初期レビューアーの一人となりました。アライメント（調整）の難易度や高度な AI の経済性については極めて中立的な見解を持っていますが、このシナリオは以下の特定の世界観の下でどのような世界が実現しうるかという最も明確かつ具体的な記述となっています：
- 極めて急速な AI の進展
- 現在のアライメント（調整）は非常に困難である
- AI は経済における人間の投入を非常に効果的に代替可能である
- プラン A では、グローバルレベルで物事が適切に統治されていると仮定する
これらすべてについて私は手を上げて「まったく見当もつかない」と言わざるを得ませんが、AI 論争の異なる側面が自らの前提を明確にし、その結果として生じる帰結がいかに驚くべきものであるかを提示してくれるときはいつも嬉しく思います。
私が完全に中立的な立場にあるこれらの前提を踏まえると、結論に穴を見つけることがいかに困難であったかには驚きました。超高速成長シナリオにおいてデータセンターによって形成されるグローバルエネルギーシステムのあり方は、私を数多くの深遠な考察へと導くことになりました（その他にも多数の点で）。
チャーリー・バルロック：ベイエリアの合理主義者が、重要な政策提案を構造的にポストモダンな媒体形式である小説を通じて伝えることを好む傾向は、私にとって決して飽きることがない。もしこれが世界中で規範となれば、より親切で穏やかな世界になるだろう。私の次の草案法案には、ヴィクトリア朝後期のロンドンを舞台にした 25,000 語の「あなた自身で選ぶ冒険」形式の小説を載せたい。
明確に言っておくが、私はこの作品が好きであり、人々が未来を非常に詳細な方法で考えようとし、具体化しようとしていることは良いことだと考える。しかし、記述的事実として、この出版物はフィクション（小説）であるという点は真実だ。著者たちもこの主張に異議を唱えることはないだろう。
ボーアズ・バラク（OpenAI）：私は AI 2040 の「プラン A」のすべてに同意するわけではないが、非常に考え抜かれた内容だと考える。私が特に気に入っている要素の一つは、透明性の向上と普及を推進することだ。
安全性とは、情報をロックダウンし、最先端モデルを研究所や政府、選ばれたパートナーのみで制限することを意味するのではなく、彼らの計画の重要な構成要素は、情報の共有と配布を最大化することにある。
アンドレス・ローザ：ついに、前向きな道筋が示された
ジャック・ガラーは、これが彼がこれまで読んだ中で最も重要なものだと呼んだ。私はそこまで言わないが。
前向きなビジョン
彼らはプラン A を前向きなビジョンと呼んでいる。
リチャード・ngo の言うように、これは楽観的なシナリオとも呼び得るだろう。
AI 2027 に対する強い批判の一つは、二つのシナリオを提示したものの、私たちが取るべき行動や実践的な前進の道筋を示さなかった点です。著者らが予想するデフォルト・シナリオでは、私たちは皆死んでしまいます。
AI 2027 の代替シナリオでは、重要な局面でハードリセット（初期化）を行うことになりますが、これは戦略や計画、あるいは前向きなビジョンというよりは、ハイレイ・パス（最後の望み）のようなものであり、著者らは理論的に可能であることを示すために結果を良くするよう設定しています。
Plan A は現在の状況から始まるアップデート版です。主に予測であるのではなく、私たちが協調し（各種の強制および検証メカニズムを含む）、スーパーインテリジェンス（ASI）の開発速度を緩やかにして、うまくいく可能性を最大化するという、可能なる未来への前向きなビジョンを描いています。最終的に 2040 年には、そのバトンが AI に引き継がれ、特異点（シンギュラリティ）が本格的に進行し、 hopefully 私たちは最初の試みで正しく対応し、事態は好転するでしょう。
Plan A の提案された実装方法は、アメリカと中国が AI 開発を緩やかにし、研究情報を共有するための相互利益のある合意に達することです。既存および新規のチップ供給に対する共同管理が確立され、既存のチップ集積地の位置に関する共通知識が得られ、データセンターへの普遍的な監査が行われます。双方は、この合意が遵守されていることを検証できます。
これはかなり空想的に聞こえるかもしれませんが、数ヶ月前にアメリカ政府がミソス全体の問題に対してどのように対応したかを説明していたとしたら、その時にも同様に空想的に聞こえたはずです。何かしらの決断を迫られています。著者たちは、ここでどの道筋が実現可能かを見極めるために、本当に多くの労力を投資しました。
一連の適切な決定を下すことで、経済的にも含めて物事は順調に進み、最終的にはハッピーエンドを迎えます。ただし、スピード bumps なくというわけではありません。移行がゆっくりであってもその変化は非常に急激であり、技術的な問題が処理されたとしても、依然として多くの現実的な課題が残ります。彼らは、中国が積極的に不正行為を行う場合や、不十分な安全性のケースが承認される場合など、別の展開の可能性も検討しています。
移行期間中、アメリカは爆発的な経済成長を遂げ、その一部を急速に増加する市民配当（UBI の極めて寛大な形態）として支払い、またごく一部の資金は様々な形の防御的加速に充てられます。この過程でさまざまな課題が議論されます。
2040 年に垂直方向への移行が依然として非常に速く聞こえるのは、著者たちの現在のベースラインまたはデフォルトシナリオではこれが 2030 年に起こるためです。
Plan A の重要な焦点は、研究の完全な透明性です。ダニエル・コカタイル（Daniel Kokotajlo）はこの図を作成し、なぜ彼がこれほどまでにそれを重視するのかを説明しています。詳細はリンク先をご覧ください。
代替プラン
彼らはまた、代わりにプラン B、C、D、または S を選択するシナリオについても簡潔に記述しています：
プラン A: 協調的な減速。中国との合意形成。
プラン B: 中国と戦う。他者の努力を妨害して時間稼ぎを図るような形での対立。
プラン C: リード（先行権）を燃やす。おおよそ AI 2027 シナリオに相当し、若干の認識の深化を含む。
プラン D: ASI（人工超知能）への競争。ミソス以前から我々が歩んできた道であり、現在も主にその軌道上にある。
プラン S: すべてを停止する。名前の通りである。彼らは同情は示すが、不安定であり合意形成が困難なため推奨はしない。
大まかに言えば、2028 年の大統領選挙は AI が主題となるだろうと予測している。なぜならその時点では AI が主要課題であることが明白となり、候補者たちが大胆な政策を掲げるようになるからだ。そして 2029 年にそれが実施されるが、彼らが望んでいるのはプラン A の実現だ。
プラン A には多様な詳細や異なるトピックに関する探求が含まれている。関係者はほとんど誰も目にしない部分に多大な労力を注いでいる。これらについて掘り下げる応答記事は、シナリオそのものと同程度かそれ以上に長くなることも容易に想像できる。しかし、これはそのような記事ではない。
これらの詳細の多くはSFのように聞こえます。なぜなら、それらは未来を予測しようとする真剣な試みだからです。SF物語を信じるべき時が来ました。なぜなら、私たちは今まさにその中に生きているからです。その道筋には無数の可能性があり、この見解が間違っているかもしれません。しかし、非常にSF的な出来事がすでに起こっており、今後さらに多くのことが起きようとしています。
シャットダウンのためのプランS
この視点は上記の異議#7の一形態であり、プランAの成功の可能性については否定的ですが、それが私たちに十分な勢いを集めさせてプランS（完全なシャットダウン）へと移行させる可能性については肯定的です。
Nate Soares (MIRI): AIに関する未来を論じる人々と私は多くの点で合意しています。これは私がこれまで見た中で、最も具体的なポジティブな未来のビジョンであり、他を圧倒するものです。
彼らのプランAが記された通りに機能するとは疑わしいですが、それが世界指導者たちを説得してプランSへと切り替えさせる証拠を生み出すチャンスはあります。私はそのチャンスがあると思います。
なぜプランAではないのか？人間とAIがアライメント（整合性）に取り組む場合、間違った答えに収束する可能性が高いです。正直な答えはおそらく「現代の方法と何らかの類似点を持つものを使ってスーパーインテリジェンスへと押し進めるのは破滅的です；後退すべきだ」となるでしょう。しかし、人間がそれを聞くよりも、無理やり押し通す可能性の方が高いのです。
しかしもし人類がプランAを追求する際に特に有能で、かつ特別に幸運であり、警告の兆候に耳を傾けることができたなら、私たちはプランSへのオフランプ（分岐点）へと進み、生き残ることができると想像できます。つまり、プランAを試みることは完全に致命的とは見なされません。
あるいは alternatively:
Damian Tatum: 再び、代替経路を読み進めている最中ですが
もし、私やネイト・ソアレスがそうであるように、勝算は低く状況は絶望的だと考える立場に立つなら、あらゆる勝利のシナリオには、多くのことが予期せずうまくいく必要がある。
その理由は
原文を表示
Introducing Plan A
The folks who brought you AI 2027, a so far remarkably accurate set of predictions despite those predictions having seemed freaky to many at the time, now bring you their positive vision that involves more freaky predictions: Plan A.
These guys have rather strong prediction track records. In addition to AI 2027, among other things, Daniel Kokotajlo has What 2026 Looks Like (which is remarkably similar to what 2026 looks like) and Ryan Greenblatt, who is also the chief scientist at Redwood Research, was the #2 most accurate AI forecaster in 2025 out of 413 entries. Past performance is as always no guarantee of future success.
If you’re the type to read at least some of my posts, or if you thought AI 2027 was worth reading, I recommend reading Plan A.
There is also an unofficial visual novel version, for minds very different from my own who would want that.
To be clear up front: I am not endorsing Plan A. I am not suggesting we should go off and try to enact Plan A as written. There is a lot more work to do and a lot of potential problems and downsides to grapple with.
I do think we should do that work, and give it, and its details, serious consideration.
The bulk of this post is engaging with various objections, in progressively more detail. If you only need the highlights, you can safely stop after Thus Selective Optimism.
Table of Contents
Introducing Plan A.
You Only Get Five Words.
Proactive Response To Objections.
Initial Introductions and Endorsements.
A Positive Vision.
Alternative Plans.
Plan S for Shutdown.
Something (Unexpectedly Good) Ever Happens.
Thus Selective Optimism.
Quickly, There’s No Time.
Race Conditions.
This Is A Lot Of Diffusion And Economic Growth.
Living In China.
Planning For Shifting Overton Windows Is Essential.
The Standard Handwave.
Some Equate Any Controls Over Compute To Authoritarian Dystopia And Those Same People Mostly Think Superintelligence Won’t Happen.
Vitalik Buterin Is Right, The Crux Is Future AI Capability Levels.
The Authoritarian Objection.
Concepts Of A Plan.
The Kitchen Sink.
Selective Claims Of Authoritarianism.
You Either Can Steer The Future Or You Cannot.
Cooperative Alignment.
You Only Get Five Words
As always, most people who interact with Plan A will not read it.
They will condense it into a few key sentences.
There is clear agreement on which sentences survive and which do not.
The top 5 things people will discuss will largely be, in descending order of focus:
We should slow down AI development.
To do that, we should make a deal with China.
We should monitor the world’s major sources of compute.
We should use mutually assured compute destruction (a version of MAIM).
Things will still happen super fast and feel like it, e.g. ASI by 2040, with vast economic growth before this.
Axios’s Ashley Gold compacts the plan thus:
Ashley Gold: The group behind a 2025 report predicting dire outcomes from AI development is out with a new prescription: To avoid dangerous outcomes from superintelligent AI, slow everything down.
That’s not technically wrong, but there is an obvious misinterpretation if you allow that much compression.
And includes this very good quote:
Daniel Kokotajlo: We think it’s still good to recommend what would actually be good, even if you think that your audience is probably not going to listen.
The strongest and loudest objection, and in some ways the best one, is some form of:
Plan A Detractors: Superintelligence is not coming any time soon. The threat is not real, so we shouldn’t be paying high costs to deal with it. There is no reason to slow down that which is already slow enough on its own.
At the extreme you get people like Joshua Saxe wondering why people didn’t learn their lesson from what didn’t happen to radiologists, and so on. Le sigh, but I appreciate saying it straight, and I appreciated Timothy Lee’s reaction even more:
Timothy B. Lee: I struggle with what to say about the new AI 2040: Plan A website. It all seems so implausible to me that I'm not sure where to start. There's an epistemic chasm between those who think superintelligence implies near-omnipotence and those (like me) who don't.
I've found that people believe it at such a deeply intuitive level that it's hard to have a meaningful discussion about it. Each side finds it baffling to encounter people with the opposite intuition, and on some level can't believe they're being serious.
I would hope that with enough time I could get Timothy Lee to come around, since he has established he takes arguments seriously, but so far I’ve been unable to find a compelling argument to convince such folks that for practical purposes yes sufficiently advanced AIs could and would do all the things.
I think the premise in the Detractors argument, as stated above, is wrong. I think superintelligence is likely to be coming soon, as do the labs. Many do not agree. If you are one of those who do not agree, then you should absolutely not want to implement Plan A, or anything like Plan A, and you should say so plainly.
This is true whether or not you want to further engage with the scenario anyway, to consider the hypothetical where you are wrong. That’s up to you, and ‘no’ is a respectable response.
Top 10 criticisms other are, translated into my language (not intended to pass ITTs):
America would never do it. You don’t understand America (or the government).
China would never do it. You don’t understand China (or its government).
This scenario doesn’t understand that this is a race. Or, this scenario places too much emphasis on the framing that this is now being seen and treated as a race.
This is still too fast, or this is far too slow. Unacceptable.
This is unnecessary, market can handle alignment, it is all easy, stop worrying. You warned things might eventually be not fine but so far everything is fine. I am opposed to anything vibing with the words ‘slowdown’ or ‘pause’ and will try to incept that any such action is impossible and discredited or ‘naive.’
This involves paying real costs and restrictions. I thought this was America. Controls over compute equal authoritarian (totalitarian?!) dystopia and all that.
This still would not work, either it does not work technically for various reasons or alignment is too hard. We need a full pause. Or, in the better version: There aren’t enough worlds where this turns losses into wins.
The economic projections are way too optimistic.
The scenario is confusing: It conflates realistic prediction with aspiration. Also people will focus only on particular key points, so you should obfuscate those.
The scenario involves unlikely things happening. Nothing ever happens. This is something happening. Also you made it up. Never gonna happen.
A lot of these being symmetrical is a sign that the scenario is doing something right.
My basic responses to these objections:
Not with that attitude. If true, get cracking on figuring out an alternative.
Not with that attitude. If true, get cracking on figuring out an alternative.
I think this is roughly the right amount of talking like this is a race.
Slower would be better if possible, it’s a question of what is achievable.
If you think this, then you should oppose things like Plan A, but you’re wrong.
Yes, to deal with big things you often have to pay real costs, but do not equate such actions with authoritarianism let alone totalitarianism. This plan tries hard to minimize this downside. If you have better implementation ideas, speak up.
I think this is a topic for healthy debate and a strong objection.
I think they are overly optimistic, but not crazy, and I think the plan and scenario survive having much less dramatic medium-term economic impacts.
This is the nature of such a scenario. I think they did the best they could.
Some seemingly unlikely things do happen. A scenario without any unlikely events is itself even more unlikely. And in AI, the one thing I know for sure is that a lot of big somethings are going to happen. Results literally range from maximally bad to maximally good, and ~zero movement is not that likely.
Extended versions of most of these are included later in the post.
Proactive Response To Objections
There is a long tail of other objections as well. Even after listing the top 10 I found that a large percentage of responses to my open thread were not covered.
AI 2040, like AI 2027, tries to proactively answer many of the concerns and objections people have, both common and rare, including via supplementary material.
For a rare example, Tom Davidson is worried about the ‘dry tinder’ problem of creating a compute overhang which they answer here and via the idea of mutually assured compute destruction. Curt Tigges also worries about the overhang.
Nathan Young offers Common Notes on Plan A, an attempt to bring community notes to the entire internet.
Initial Introductions and Endorsements
Scott Alexander, one of those who worked on it, writes an introduction and justification here.
Whereas here are some shorter pitches for why you should read it and it matters:
Romeo Dean: At some point soon, humanity will be forced to reckon with the creation of AIs that are smarter than humans in every way. This is a terrifying prospect. Plan A is our vision of how we can make this go well if we rise to the occasion.
Eli Lifland: Excited to finally publish AI 2040: Plan A, our plan for international coordination to get to a great AI future. We’ve put a lot of work into this and I hope that it sparks alternative plans that bring us closer to treating superintelligence with the seriousness it deserves.
Buck Shlegeris: I’m really excited this is out; I think it’s the best summary of the spectrum of possible plans for preventing catastrophe from AI.
Ryan Greenblatt: Plan A seems like a good plan for handling powerful AI, or at least the best plan anyone’s written up. Many choices initially seem crazy, but are actually pretty carefully considered. Plan A isn’t likely to happen, but pushing for something like this seems worthwhile.
A nice property of Plan A is that it’s reasonably robust to partial or lower-quality implementation. So nearby proposals still seem good (and worse-done versions can bootstrap into better ones). The core—verification and (very strong) transparency—suffices to go pretty far.
Eli Tyre: Plan A is the single most thorough and thoughtful plan that I’m aware of for what the world should do as we approach Superintelligence. If we want to get through the singularity alive, this is my current best guess of the playbook we should be aiming to implement. It’s my current best guess mainly because there are so few serious contenders that actually engage with the details of the situation.
Nevin Freeman: As you try to make sense of what *should* happen with AI, this is an absolute must read (or listen). It’s very hard to reason about potential catastrophe and how to ensure we avoid it, and it’s even harder to turn ideas into concrete stories many will understand. Huge thanks to [everyone involved].
Jeffrey Ladish: We’re in a pretty dire situation, but we can change course! I highly recommend checking out @DKokotajlo Plan A write-up & AI 2040 scenario.
Steven Adler: Very grateful that the AI 2027 team has a plan for the global calamity that is superintelligence [that arrives fast and before we are ready]. It is by no means perfect, but I’d love to see critics lay out a stronger competing vision; seems pretty hard.
Jonny Miller: Someone should fund turning this into a Netflix-quality production to give normies a heads-up of what is coming down the pike.
Andy Masley: AI 2027 now has a follow up called AI 2040: Plan A, which is a scenario where things go well. I got to be an early reviewer on it. I have extremely agnostic takes on the difficulty of alignment and the economics of advanced AI, but this scenario is the clearest concrete description of what the world could like under the specific worldview of:
-Extremely rapid AI progress
-Alignment right now is very difficult
-AI very able to substitute for human inputs in the economy
-Assuming in Plan A that things are governed well at the global level
Each of those I need to throw my hands up and say “Man I have zero clue at all” but I’m always happy when different sides in the AI debate make their assumptions clear, and the consequences of the assumptions here are really wild.
Giving these assumptions I’m a complete agnostic on, I was surprised at how difficult it was to find holes in the conclusions. The way the global energy system is shaped by data centers in a super high growth scenario sent me down a ton of rabbit holes among other things.
Charlie Bullock: The Bay Area rationalist preference for communicating important policy proposals via structurally postmodern medium-form fiction writing will never cease to amuse me.
It would be a kinder and gentler world if this were the norm everywhere. I want to start my next draft bill with a 25,000-word Choose Your Own Adventure novella set in late Victorian London.
To be clear I like the piece and think it’s good that people are trying to think about the future in a very detailed way and take things out. But it is just descriptively true that the publication is a work of fiction. The authors would not disagree with that claim.
Boaz Barak (OpenAI): I don’t agree with everything in AI 2040 “Plan A” but it is very thoughtful. One element I love: push for increased transparency and diffusion.
Instead of safety meaning locked down information and restrict frontier models only to labs, government, and chosen partners, a key component in their plan is to maximize sharing information and distribution.
Andres Rosa: Finally, a positive path
Jack Galler called it the most important thing he’s ever read. I wouldn’t go that far.
A Positive Vision
They call Plan A a positive vision.
One could also call it an optimistic scenario, as per Richard Ngo.
One strong criticism of AI 2027 was that it laid out two scenarios, but did not tell us what we should do or offer us a practical path forward. In the default scenario, which lays out what the authors expect to happen, we all die.
In AI 2027’s alternative scenario we do a hard reset at a crucial moment, which is less a strategy or plan or positive vision and more like a hail mary pass, where the authors make things turn out well to show that it is in theory possible.
Plan A updates to start from our present situation. Rather than being primarily a prediction, it lays out a positive vision of a possible future where we coordinate (including using various enforcement and verification mechanisms) to slow down the development of superintelligence (ASI), and give it the best chance to go well. Ultimately in 2040 the torch is passed to the AIs, the singularity proceeds in earnest, and hopefully we got it right on the first try and things work out.
The proposed implementation of Plan A is that America and China reach a mutually beneficial deal to slow down AI development and share research information. Joint control is established over existing and new chip supply, with common knowledge of the location of existing concentrations of chips, and universal auditing of data centers. Both sides can verify that the deal is being upheld.
This can sound rather fantastical, but if a few months ago you had described how the US government has responded to the whole Mythos situation, you would have sounded rather fantastical then too. Something has to give. The authors really did invest a lot of work on seeing which paths forward were viable here.
Things go well, including economically along the way, as we make a series of good decisions, and we get to a happy ending, although not without speed bumps as even a slower transition is rather sudden and even if the technical issues are handled there remain lots of real problems. They consider alternative ways this could go, such as China cheating aggressively or flawed safety cases being approved.
During the transition, America experiences explosive economic growth, and uses some of that to pay out a rapidly increasing Citizen’s Dividend, as an extremely generous form of UBI, and also a small fraction is devoted to various forms of defensive acceleration. Various issues are discussed along the way.
If things going vertical in 2040 still sounds super fast, that is because in the authors’ current baseline or default scenario this happens in 2030.
A key focus of Plan A is total research transparency. Daniel Kokotajlo made this diagram to illustrate why he cares so much, with further explanation at the link.
Alternative Plans
They briefly also describe the scenarios where we instead choose Plans B, C, D or S:
Plan A: Coordinated Slowdown, make a deal with China.
Plan B: Fight China, as in try to sabotage other efforts to buy a time buffer).
Plan C: Burn the Lead, roughly the AI 2027 scenario, with a bit more awareness.
Plan D: Race to ASI, the path we were on before Mythos and mostly are still on.
Plan S: Shut It All Down, which is what it sounds like. They are sympathetic but don’t recommend because it would be unstable and hard to get buy-in for.
Roughly speaking, they predict the presidential election in 2028 is all about AI because by that point it is obvious AI is the Main Thing, with candidates throwing around bold agendas. Then in 2029 one gets implemented, which they are hoping is Plan A.
There are a ton of details and explorations of different topics in Plan A. Those involved put a lot of effort into parts almost no one will see. I could easily write a response post at least as long as the scenario to go into them. This is not that post.
A lot of those details sound like science fiction, because they are serious attempts to predict the future. Best start believing in science fiction stories, because you’re living in one. There are any number of ways that can go, and this might be wrong, but some very science fiction things are happening and a lot more will be happening soon.
Plan S for Shutdown
This perspective, a form of Objection #7 above, is negative on Plan A’s chances of success, but positive on the chances it causes us to gather enough impetus to shift to Plan S, which is a full shutdown.
Nate Soares (MIRI): The AI futures folk and I agree on quite a lot. This is the best concrete vision of a positive future I’ve ever seen spelled out, bar none.
I doubt their Plan A would work as written, but it’d have a chance of producing evidence that convinced world leaders to switch to Plan S, which I think has a shot.
Why not Plan A? Humans working with AIs on alignment are likely to converge on wrong answers. The honest answer is likely “pushing to superintelligence using anything remotely like modern methods is fucked; back off”; humans are unlikely to listen rather than push through.
But if humanity was especially competent and especially lucky while pursuing Plan A, and was able to heed the warning signs, I could imagine us taking the off-ramp to Plan S and surviving. So attempting Plan A doesn’t look completely fatal.
Or alternatively:
Damian Tatum: Again, still reading the alternative paths, but
If you are of the camp that the odds are against us and the situation is grim, as I am and Nate Soares is even more so, then every winning scenario involves a lot of things going unexpectedly well.
The reason th
関連記事
今日のまとめ
AI日報で今日の重要ニュースをまとめ読み