オックスフォード大学の Toby Ordが AGI の到達時期予測の誤りを解説

オックスフォード大学 AI ガバナンス研究所の上級研究者、トビー・オード氏は、AI の再帰的自己改善が直ちに知能爆発を引き起こす可能性は低いと指摘しています。彼によると、現在の AI はプログラミングや実験の自動化には寄与するものの、未知の問題に対する戦略的判断や根本的な研究突破を支援する能力には限界があります。

戦略的判断という人間固有の難問

オード氏は、AI 研究の本質は単にコードを書くことではなく、「何をすべきか分からない状況での判断」や「既存のアーキテクチャをどう変えるべきかの洞察」といった難解な要素を含んでいると説明します。現在の AI はプログラミングを劇的に加速させるかもしれませんが、それが即座に研究プロセス全体を代替するわけではないため、タイムラインが大幅に短縮される可能性は低いと考えられています。

「AI には、何をすべきか分からない状況での判断や、根本的な研究突破を支援する能力が現時点では不足している。プログラミングの自動化だけでは、研究の難易度の高い側面をカバーしきれない。」

データセンター内の超知能と実社会経験の乖離

オード氏は、データセンター内で訓練された超知能であっても、それが即座に高度な職務を遂行できるとは限らないと警告します。これは「知能」と「能力（スキル）」の乖離によるものです。

例えば、数学や論理的推論において極めて高い知能を持つ AI が誕生したとしても、それは実社会での経験や組織文化の理解には欠けた状態です。オード氏はこれを、「新卒の優秀な学生」に例えています。彼らはポテンシャルは高く、あらゆる分野でエントリーレベルの職務をこなす能力はあるかもしれませんが、政治、ビジネス、ジャーナリズムなどの現場で長年培われた文脈理解や人間関係の構築には至っていません。

「データセンター内で超知能になっても、実社会での経験や組織文化の理解に欠けるため、即座に高度な職務を遂行できるわけではない。それはまるで、新卒の優秀な学生がいきなり CEO になれるか問われているようなものだ。」

この「遅延要因」は、AI が知能爆発を起こしたとしても、それが実社会で効果を発揮し始めるまでに、数ヶ月から数十年という時間がかかる可能性を示唆しています。

学習効率の限界と能力の不一致

現在の深層学習モデルには、人間のような少量の例から一般化する能力（サンプル効率）が不足しており、これが自己改善のボトルネックとなる可能性があります。オード氏は、人間の幼児が線画を見て実物の物体を認識する驚異的な学習能力に比べれば、AI の学習効率は依然として低いと指摘しています。

さらに、LLM における「評価能力」と「生成能力」の不一致もリスク要因です。AI は他者の回答の質を評価する（判別する）能力の方が、自ら創造的に回答を生み出す（生成する）能力よりも高い場合があります。この特性を利用した学習手法は有効ですが、AI が「検出可能な間違い」を避ける方向に最適化されるだけで、本質的な精度が向上しているかどうかが不明確なケースがあります。

「AI は評価能力の方が生成能力より高い場合があり、この特性を利用した学習が誤った方向へ進むリスクがある。結果として、エラーが見えにくくなるだけで、実際の精度は上がっていない可能性すらある。」

創造性によるブレークスルーの必要性

AI の自己改善プロセスにおいて、現在の技術が単なる「ヒルクライミング（微調整）」に過ぎない場合、将来的な知能爆発を阻む要因となります。オード氏は、過去の AI 発展史において、ニューラルネットワークや知能を圧縮と捉える視点など、数十年に一度訪れるような「創造的なブレークスルー」が必要だったと振り返ります。

現在の AI システムが、そのような画期的なアイデアを生み出す能力を持っているかどうかは不明です。もし次の段階の突破には人間の研究者による創造性が必要であるならば、AI 単独での自己改善には限界が生じ、知能爆発のタイムラインはさらに先送りされることになります。

過信せず協働とガバナンスを重視

トビー・オード氏の分析は、AI エージェントや開発ツールの導入において、即座に人間の専門家を完全に代替できると過信しないよう促しています。実務経験や文脈理解が必要な領域では、人間との協働が不可欠であり、AI が知能爆発を起こしたとしても、それが社会全体に浸透し高度な職務を遂行するまでには時間がかかるという認識が重要です。

また、AI の自己改善プロセスにおける「評価能力」と「生成能力」の不一致や、学習効率の限界を監視し、誤った方向への学習を防ぐガバナンスの重要性も再認識されます。AI の可能性を過小評価せずとも、その現実的な制約を理解することが、安全で持続可能な AI 社会の構築には不可欠です。