AI 2027 の著者ダニエル・ココタイルが、結末を変える計画を語る

超知能（AGI）の到来が人類絶滅や権力集中を招くリスクに対し、現状の対応では不十分だと警告する声が強まっています。『AI 2027』著者のダニエル・ココタイル氏は、80,000 Hours Podcast にて、数年以内の実現を予測し、米中協調による国際的計画「プラン A」を提案しました。

指数関数的加速と「数年以内」の超知能予測

ココタイル氏が現在の技術トレンドから導き出した最大の懸念は、AI 研究そのものが数年以内に完全に自動化される点です。METR（Model Evaluation & Threat Research）が提供するデータによると、AI エージェントが自律的に完了できるタスクの長さは、人間がそれを完了するのにかかる時間換算で指数関数的に成長しています。特にコーディング分野におけるこの傾向は、当初予測された以上に加速しており、すでに飽和状態にあるという報告もあります。

企業の収益成長率も重要な指標です。AGI が実現すれば経済全体の自動化により年間 40 兆ドルの収益が生まれる可能性がありますが、その直前にはすでに数千億ドル規模の収益が達成されているはずです。現在の主要企業の成長曲線を単純に外挿すると、数年以内に AGI に到達するシナリオが浮かび上がります。

「AI 研究自体が完全に自動化されれば、超知能への道は開かれる。その先には、人類絶滅や権力集中のリスクが控えている。」

多くの専門家が「技術的な壁」に直面して進展が鈍化するだろうと予測する一方で、ココタイル氏は過去の予測がことごとく外れてきたことを指摘します。「因果推論ができない」「常識推理が苦手」といった限界は次々と克服されており、データ非効率性のような最後の障壁さえも、十分なデータ量があれば解消可能だと分析しています。AI 研究の自動化が進めば、新たなパラダイム発見も加速し、超知能の実現は避けられないスピードで近づいているというのです。

「プラン A」の核心：米中協調と「戦争のような協力体制」

超知能が目前に迫る中で、ココタイル氏が提唱する「プラン A」とは、米国と中国が核兵器管理のように協力し、AI 開発競争を停止することです。これは単なる倫理的な要請ではなく、地政学的な利害関係に基づいた現実的な提案です。

もし米国が現在の競争条件で超知能を獲得した場合、他国（中国、英国、インドなど）は自国の経済や軍事力が米国の AI に圧倒され、国家としての存続さえ危ぶまれる状況に陥ります。逆に、中国が先制した場合も同様の恐怖が米国に生じます。さらに、AI が内部政治闘争に利用されるリスクにより、民主主義の崩壊や独裁化の可能性も否定できません。

「核兵器とは異なり、AI は制御不能になる可能性が高く、かつ内部政治闘争にも有効に機能し得る。そのため、米中双方が恐怖を抱き、協力するインセンティブが存在する。」

この協力は、冷戦期の米ソ間の非拡散条約のような「一度結んで終わり」のものではありません。第二次世界大戦中の米ソ連携のように、敵対関係にある両国の政府間から数百人が常時連絡を取り合い、詳細を調整し続けるような「継続的な協力体制」が想定されています。これは「AI に対する戦争」ではなく、「人類の未来のための戦争」として位置づけられています。

Security Level 5 と透明性：技術的インフラの再構築

プラン A の実現には、単なる政治合意だけでなく、具体的な技術的インフラの整備が必要です。ココタイル氏は「Security Level 5（国家レベルのセキュリティ）」という基準を提唱しています。これは、現在のデータセンターが抱える脆弱性を解消し、国家レベルの攻撃者であっても AI の重み（weights）を外部に持ち出せないようにするものです。

具体的な対策として、通信帯域幅を制限し、膨大な重みデータを物理的にデータセンター外へ転送できないようにする仕組みや、新設されるデータセンターでの完全な透明性が挙げられます。また、中国の監査員が米国企業のデータセンターに接続してルール違反を検知できる「プライバシー保護型監査」技術の開発も必要です。この技術は、秘密を漏らさずに「ルール遵守の有無」のみを確認し、使用後は装置自体を破壊する仕組みで構成されます。

「新データセンターの建設と既存施設の改修には半年から 1 年程度かかるが、緊急プログラムにより実現可能である。」

この計画では、まず一時的にすべての新しい学習（トレーニング）を停止し、既存のデータセンターを推論専用としてリフィットします。その間に、より安全で透明性の高い新データセンターを建設するスケジュールが組まれています。

既存シナリオの限界と「最悪の選択肢」からの脱却

プラン A が推奨される背景には、「何もしない（プラン D）」や「中国との競争を続ける（プラン C）」といった他の選択肢が抱える深刻な欠陥があります。競争を続ければ、制御不能なリスクが高まり、第三次世界大戦の勃発や人類絶滅の可能性が現実味を帯びます。

ココタイル氏は、プラン A が完璧な計画であるとは主張していません。多くの問題点や失敗の可能性も認識しています。しかし、現在知られている代替案と比較すれば、最もリスクが低い選択肢であると結論付けています。また、政府の対応は急速に変化しており、かつて「規制は悪」としていた政権ですら、AI の安全性を理由に輸出管理や展開停止命令を出すなど、オバートン・ウィンドウ（議論可能な範囲）が既にシフトしつつあると指摘しています。

「プラン A は最良の計画ではないかもしれない。だが、私たちが現在知っている中で最も悪い状況を回避するための、最善の選択肢である。」

最終的に、この提言は AI ガバナンスの議論を抽象的な倫理観から、具体的な国際条約と技術的インフラの実装へとシフトさせる必要性を示しています。開発者や企業にとっては、将来的に「Security Level 5」のような厳格なコンプライアンスが事実上の標準となり、現在のオープンな開発モデルの転換を迫られる可能性があります。

まとめ：議論の始まりとしてプラン A を捉えるべき

ダニエル・ココタイル氏は、プラン A がデフォルトで実現するとは考えていません。むしろ、現状のままでは最悪の結果に陥る可能性が高いと警鐘を鳴らしています。しかし、この計画は「議論の終わり」ではなく、「始まり」です。

人々が危機感を共有し、さまざまなシナリオを検討する中で、プラン A の要素を取り入れつつ、より良い現実的な解決策が生まれることを期待しています。現状では、完璧な道筋はないものの、米中協調と技術的インフラの再構築という「プラン A」こそが、人類を超知能のリスクから救うための唯一の実現可能な希望であると、ココタイル氏は強調しています。