AIを通常の技術として理解するためのガイド

AI を通常の技術として捉えるという論文を発表した際、その反響は私たちにとって予想外のものとなりました。それは私たちがこれまでに行った中で最も影響力のある取り組みの一つにすぐに成長しました。私たちはこれを強いシグナルと受け止め、AI の中期的な未来とその影響についてより多くの時間を費やし、議論や執筆を行うことにしました。これは、推測を招きやすい話題に対して、根拠に基づいた分析を提供する試みです。これは、AI スネークオイル・プロジェクトが取り組んでいたような、現在の AI や近未来への影響についての執筆から焦点を移す転換点でもあります。 この転換を反映し、私たちはニュースレターの名称を変更しました。すでに「AI を通常の技術として捉える」に対する2本の続編論文を発表しており、今後、その枠組みを書籍に拡張する過程でより定期的に発信していく予定です。本書は2026年後半に完成させ、2027年に刊行する計画です。 本日、私たちは「AI を通常の技術として捉える」という概念に関する一般的な混乱点を取り上げ、元の論文をより親しみやすいものにするよう努めるとともに、これを「AI 2027」と比較検討します。 目次 通常とは凡庸や予測可能性を意味しない 私たちの主張の再提示 GPT-5 への失望があなたを「AI を通常の技術として捉える」へと導いたとしても、その主張を完全に理解していない可能性があります なぜ「AI を通常の技術として捉える」と「AI 2027」の間には「中間点」を見つけるのが難しいのか 別の世界観にコミットしているとき、一つの視点を理解するのは困難です AI の恩恵を実りあるものとするためには、困難な作業と痛みを伴う選択が必要です 拡散速度に関する非現実的な議論 なぜ AI の採用は異なる様相を示すのか 結びの言葉 「普通」とは平凡や予測可能という意味ではない 本稿では「普通」が何を意味するかについて言及している（以下でさらに詳述する）が、何が「普通」でないかについてはより明確に記述できたはずだった。 我々の主張は「ここには見るべきものはないので、通り過ぎてください」ということではない。実際、自動車からソーシャルメディアに至るまで、強力な技術の象徴的な特徴の一つは予測不能な社会的影響である。これは、技術と人間の間の複雑な相互作用が生み出す創発的効果（emergent effects）によるものである。それらは技術単独の論理に基づいて予測される傾向はない。だからこそ、「技術決定論」を否定することが「普通となる技術」というエッセイの中核的な前提の一つとなっているのである。 AI、特にチャットボットの事例では、すでに創発的な社会的影響が現れ始めている。AI コンパニオンの普及や、モデルの迎合性（sycophancy）による有害な影響の一部である「AI 精神病」などは、多くの観察者を驚かせた。2 他方、選挙操作に AI が利用されるなど、広く差し迫ったリスクとして予測されていた事象は実現していない。 現在の能力が拡散したとしても、将来の能力を想定しなくてもよい場合、今後 3〜5 年における AI の社会的影響の姿がどうなるかは誰にもわからない。 技術的能力の発展は、AI の社会的影響よりも予測しやすいものです。『AI 2027』の著者の一人であるダニエル・ココタージロ氏は、2021 年に「2026 年はどのような姿になるか」という論文で AI セーフティコミュニティにおいてかつて有名でした。彼が技術そのものについて行った予測は不気味なほど正確でしたが、社会的影響に関する予測は全体的に方向性が異なり、これは私たちが彼と行ったポッドキャスト討論の場で、彼が寛大にも認めた点です。 これにより、AI は制度や政策決定者にとってより深刻な課題となります。なぜなら、彼らは予測という誤った安心感に頼ったり、あらゆる害を防止しようとしたりするのではなく、予測不可能な影響に対して機敏に対応しなければならないからです。広義には、このような適応力を可能にする政策立案のアプローチは「レジリエンス（回復力）」と呼ばれ、これが私たちの論文が提唱したものです。しかし、私たちは潜在的に壊滅的なリスクに対処するためのアプローチとしてレジリエンスを強調しましたが、より拡散的なリスクに対処する際にもレジリエンスが重要な役割を果たすことを、より明確にするべきでした。 おそらく、一部の読者が予測可能性に関する私たちの見解を誤解した理由は、「normal（通常）」という言葉にあるのでしょう。繰り返しになりますが、私たちの目的は、個人および集団として AI に適応する課題を軽視することではありません。理想の世界であれば、より適切なタイトルは単に「AI as Technology」となるはずでしたが、それが現在の議論を支配している超知能世界観の特徴である例外主義に対する代替案を提供するという私たちの目標を効果的に伝えるとは考えませんでした。 我々の論文の再述 もし我々が論文のコア部分を抽出して簡略化するとすれば、以下のようになります。 AI の能力向上と社会的影響の間には、長い因果連鎖が存在します。利益とリスクは、AI が開発された時ではなく、導入された時に実現されます。これにより、私達（個人、組織、機関、政策決定者）は、これらの影響を形作るための多くのレバレッジポイントを得ることができます。したがって、能力開発の速度について過度に心配する必要はありません。私たちの努力は、AI の利益を実現しリスクに対応する観点から、導入段階に焦点を当てるべきです。これは今日の AI だけでなく、AI の自己改善のような仮説的な発展に対しても真実です。AI システムの力の多くの限界は（そしてそうあるべきですが）、システム自体の外側にあり、単に AI が去って自身の技術設計を改善するだけでは克服できないのです。 この枠組みの側面は最終的に修正を迫られることになるかもしれませんが、それは私たちが意味ある予測や準備を行うことができる範囲の地平線の向こう側にあります: Part II で記述している世界とは、現在の AI よりもはるかに高度な AI を備えた世界です。私たちは、AI の進展—あるいは人間の進展—がその時点で止まると主張しているわけではありません。その後には何が待っているのでしょうか？ 私たちにはわかりません。この比喩を考えてみてください：第一次産業革命の黎明期において、工業化された世界がどのようなものか、そしてそれに対してどのように準備すべきかを考えようとするのは有用だったでしょうが、電気やコンピュータを予測しようとするのは徒労に終わっていたはずです。ここで私たちが行っている作業もこれと同様です。「急速な離脱」シナリオを否定する以上、私たちが試みた範囲よりもさらに先にある世界を構想することは必要でも有益でもないと考えています。もし Part II で記述しているシナリオが実現したならば、その後に続くあらゆる事象に対してより良く予測し準備することができるようになるでしょう。 いずれにせよ、繰り返しますが、この論文の核心は、AI と社会の関係性を理解するための根本的な因果的枠組みであり、それがもたらすかもしれない特定の影響そのものではありません。私たちの見解では、もしあなたがこの因果的理解を共有するのであれば、あなたは「通常技術仮説」に賛同することになります。私たちは、この枠組みが実際には広く共有されていることを発見しました。ただし、それは暗黙的なものです。 これが多くの読者の頭の中では、ほぼ同語反復的な命題のように思われるのです。私たちは、自分たちがそう見ているように、そしてその読者たちもそう見るべきだと考えている、非常に弱い主張をしているに過ぎません！これを認識しないために、読者たちは「normal（通常）」という言葉で私たちが何を意図したのかという、もっと具体的な何かを探してしまいます。しかし、私たちはそのようなことは意図していません。技術を「normal」と「abnormal」に分類し、AI を「normal」の bucket に放り込むなどとは言っていません。ただ、AI を他の強力な汎用技術と同じように扱うべきだと述べているだけです。 これは大規模言語モデルや特定の種類の AI 固有の話ではありません。ついでに言えば、これがタイトルが「AI as a normal technology（通常としての AI）」ではなく「AI as normal technology（通常技術としての AI）」である理由です。私たちの見解は、総称して AI と呼ばれる技術の全体傘の下に適用されるものであり、それが AI と呼ばれていなくても、同様の他の技術にも当てはまります。 もし私たちの世界観がほぼ同語反復的であるなら、なぜそれを述べる必要があるのでしょうか？それは、超知能の世界観との対比があるからです。世界観というものの面白いところは、互いに矛盾する世界観が存在し得る点で、それらはそれぞれを支持する人々にとってはそれぞれが同語反復的に見えるということです。 GPT-5 への失望があなたを「通常技術としての AI」の考え方に傾かせたのであれば、あなたは命題を完全に理解していない可能性があります GPT-5 のリリース後に私たちのエッセイに対する関心が急増したことは注目すべきことです。少なくともその一部は、リリースに失望した人々が見解を少し変えたことによるものだと推測するのは妥当です。 これは奇妙です！これは初めてのことではありません。私たちは以前、ほとんど新しい情報に基づいて行われたスケーリングに関する大きな物語の転換点に対して懐疑的な見解を示しました。一つの製品の単なる更新が人々の AI の軌跡に対する見方を変えるとしたら、そもそも人々の証拠に基づく根拠はどれほど信頼できるのでしょうか？ 通常の技術フレームワークが遅いタイムラインを予測する理由は、能力が壁にぶつかるからではなく、能力が急速に進歩し続けたとしても、その影響はゆっくりと漸進的になるからです。したがって、新しいリリースへの失望が、AI を通常の技術として見ることに共感を持つべきだと考える理由にはなりません。同様に、明日発表される新たなブレークスルーが、私たちの見解に対する懐疑心を高める原因にもなるべきではありません。 GPT-5を理解するための最良の方法は、それが AI 開発者がモデルから製品への重点の転換を行った特に良い例であるということです。これは私たちが一年前に記述した内容です。自動モデル切り替え機能は、ChatGPT の日常ユーザーにとって大きな意味を持ちます。実は、「思考」モデルが最初にリリースされてほぼ一年経っても、ほとんど誰も使用していなかったことが判明し、GPT-5 によってその利用が劇的に増加しました。 一部のコミュニケーションにおいて、アルトマン氏は GPT-5 の重点は能力の飛躍ではなく使いやすさであると明確にしていましたが、このメッセージは残念ながら絶え間ない過剰な宣伝によって損なわれ、失望を招きました。 業界におけるこのより広範な転換は、企業が（渋々ではあるが）成功への道筋は AGI やスーパーインテリジェンスを構築してそれらがあらゆる拡散の障壁を一掃するのを待つことではなく、製品を構築し採用を促進するための困難な作業に取り組むことにあると認めることに、実際には非常に整合性がある。皮肉にも、この物語において GPT-5 は失敗の例ではなく成功の例である。 実際、モデル開発者は、より有用な製品の開発（技術開発・採用フレームワークの第 2 段階）を超え、初期採用の痛みを和らげるためにデプロイヤーと協力し始めている（同フレームワークの第 3 段階）。例えば、OpenAI のフォワードディプロイエンジニアは、John Deere などの顧客や農家と直接連携し、殺虫剤施用のためのパーソナライズされた推奨情報の提供といった機能の統合と展開に取り組んでいる。 「AI as Normal Technology」と「AI 2027」の間で「中間地点」を見つけるのが難しい理由 多くの人が、「AI 2027」と「AI as Normal Technology」の間に中間的な立場を提示しようとしてきた。おそらく、これらを意見のスペクトルの両端と見なしているのだろう。 これは驚くほど難しいことです。AI 2027 と「AI を通常の技術として捉える」という考え方は、どちらも一貫した世界観を表しています。これらは、テクノロジーが社会にどのような影響を与えるかについての非常に異なる因果関係の理解を反映しています。もし両者を無理やり組み合わせようとすれば、内部矛盾を抱えた寄せ集めになってしまうリスクがあります。（ちなみに、これは私たちが間違っている場合でも、部分的な間違いではなく、根本的に間違っている可能性が高いことを意味します。） さらに、AI を通常の技術として捉える見方を懐疑的な立場とみなせるのは、シリコンバブルの中だけのことです！ 私たちの論文では第二文で AI と電気を比較し、全体を通じてそれが深い影響を持つと明確に述べています。労働への AI の影響に関する私たちの予測は、このトピックに取り組む経済学者たちの予想の範囲の中でも、より積極的な側に位置しています。 要するに、中立的な立場を探しているなら、論文を全文お読みいただくようお勧めします。タイトルに惑わされて、私たちが AI に懐疑的だと誤解しないでください。もしかすると、「AI を通常の技術として捉える」という考え方が、あなたが探していた中庸の立場であることに気づくかもしれません。 私たちは、AI の未来を考える上で最も広く議論されている二つの枠組みがこれほど根本的に異なることに対して、不安を感じる人がいることを理解しています。（私たちの論文自体も、第 4 部（政策について）でこの状況に関する多くの考察を提供しています。）いくつかの安心できる考えをお伝えしましょう： 私たちは、AI 2027 の著者たちと多くの点で合意しています。それらの合意点を概説する共同声明の作成を進めています。この取り組みを組織してくれたニコラス・カーリニ氏に感謝いたします。 私たちの見解では、信念における一致よりも重要なのは、信念の違いにもかかわらず政策面での共通基盤です。異なる立場の間でも比較的「容易」な政策介入への合意は、実際には大きな課題となります。もしこれらを達成できないなら、差し迫った超知能を懸念する人々が支持するより根本的な措置についてはほとんど希望はないでしょう。 両者の世界観の対立点や、それらを裁定するのに役立つ指標を特定し、合意に至るためのいくつかの継続的な取り組みがあります。私たちはその一部に参加しており、今後も継続して参加していくことを楽しみにしています。この分野での努力に対して、AI に関するゴールデンゲート研究所に感謝いたします。 指標の開発について言えば、私たちはプロジェクト HAL（包括的エージェント評価台帳）のビジョンを拡大する過程にあります。現在は AI エージェントのためのより優れたベンチマーク調整システムを目指していますが、新たな計画では、さまざまな分野において AI エージェントが変革的な実世界への影響を与えるための能力閾値を超えた時期を AI コミュニティが特定できるよう支援する早期警戒システムへと発展させることを目指しています。 私たちはこれらの能力閾値を、影響力を持つために必要だが必ずしも十分条件ではないものとして捉えており、それらが達成された際には、利益とリスクの両方に対する非技術的障壁に関する私たちの仮説に対して、より一層鋭くストレスを与えることになるでしょう。 HAL は予測に関するものではなく、現在の状況認識に関するものです。これが私たちの研究のテーマです。AI に関する一般的な議論、特に「2027 年の us versus AI」において特筆すべき点は、未来だけでなく、拡散速度（以下で詳述）など私たちが観察できる事象についても、多様な見解が存在することです。コミュニティ全体として現在の測定や、進歩に対する競合する因果説明の検証を大幅に改善しない限り、予測に向けたエネルギーは誤った方向に向けられることになります。なぜなら、これらの予測を解決する方法が欠けているからです。例えば、私たちは「AGI」が構築されたかどうかを事後であっても必ずしも知ることはできないと主張してきました。ある程度、これらの限界は AGI といった概念の概念的な精度の欠如に内在するものですが、同時に測定において大幅に改善できることも事実です。 別の世界観にコミットしているとき、一つの世界観を理解するのは困難です 私たちは以下のように記しました： 「AI を通常の技術として捉える世界観は、AI を差し迫った超知能として捉える世界観と対立するものです。世界観は、その前提、語彙、証拠の解釈、認識論的ツール、予測、そして（おそらく）価値観によって構成されます。これらの要素はお互いに強化し合い、各世界観内で緊密な束を形成します。 これが、異なる世界観の間でのコミュニケーションを困難にしています。例えば、AI 2027 の人々からよく受ける質問の一つに、「2027 年の世界がどうなっていると思うか」というものがあります。それに対して私たちは「2025 年とほとんど変わらないでしょう」と答えます。すると彼らは、私たちに 2035 年や 2045 年など、世界が変容するであろう特定の年次について考えるよう迫り、具体的なシナリオを提供しない私たちの枠組みに欠陥があると考えています。 しかし、このようなシナリオ予測は、彼らの世界観の中ではじめて意味のある活動となります。私たちは、具体的にできることについては具体的になります。同時に、人間や制度、政治的な主体性が、AI 2027 を含む根本的に異なる未来を可能にする役割を強調しています。つまり、「AI は通常の技術である」という主張は、予測であると同時に提言でもあります。 これらのコミュニケーション上の困難さは、AI 2027 の著者の一人であるスコット・アレクサンダーが「AI は通常の技術である」に対して行った反応を検討する際に、心に留めておくべき重要な点です。彼が対話への誠実な取り組みを行ったこと、そして時間を割いてくれたことに疑いの余地はありませんし、その努力を評価しています。しかし残念ながら、彼の反応は主に私たちの意図した議論の核心から外れてしまっているように感じられます。彼が意見の相違の核心だと指摘している点が、私たちが考える核心とは全く異なるからです。このため、一つずつ反論する形での回答は行いません。そうすれば、今度は逆に彼との間ですれ違いが生じてしまう可能性が高いためです。 ただし、私どもは調整された対話形式での議論には喜んで応じたいと考えています。この形式については過去 1 年間に 8〜10 回実施し、良好な成果を上げてきました。双方向性があるため相互理解が格段に容易になります。また、非公開の会話を公開する前に編集を行うという事実も、お互いの視点を探る過程で「愚かな質問」をしやすくする要因となっています。 いずれにせよ、アレクサンダー氏の回答には私どもの意図を完全に捉えきれていない重要な点があります。再帰的自己改善（Recursive Self-Improvement: RSI）は、アレクサンダー氏の見解における核心的な論争点であり、彼が私どもにとってこの話題に触れられる程度に過ぎないことに驚いているのは理解できます。公平を期すために言えば、私どもの論文では RSI に対する考え方をより明確に記述できたはずです。要約すれば、私どもは RSI が超知能へとつながるとは考えていません。なぜなら、強力な AI システムの構築と展開における外部要因によるボトルネックは、技術設計を改善するだけでは克服できないからです。そのため、この話題についてはあまり言及していません。 これは私たちにとって決定的な問題ではありませんが、エッセイの中でなぜ AI コミュニティが RSI（特異点）にほど遠いと考えているのかを説明しています。より最近では、解決すべき基礎研究の課題について考えており、その数は私たちが認識していたよりもはるかに多いことがわかりました。また、他の科学コミュニティと比較して、AI コミュニティは進歩のための新たなパラダイムを見つけるのが特に苦手である可能性もあることを心に留めておく価値があります。これもまた、私たちのプロジェクト HAL が進捗を測定する役割を果たすことを期待している分野です。 アレクサンダーの回答が私たちを見落としているもう一つのトピックは、拡散の速度に関するものであり、これについては以下で簡潔に触れ、将来のエッセイでより詳細に論じる予定です。 異なる世界観の間での対話の難しさを最もよく示しているのが、超人的な AI 能力が予測や説得といったタスクにおいて可能かどうかという私たちの仮説に対するアレクサンダーの議論です。彼の回答を何度も読み返しても、どこで私たちが合意し、どこで意見が異なるのかを特定するのは困難です。私たちはこう記しました： 私たちは、人間の限界が顕著に現れ、AI がチェスで行うように人間のパフォーマンスを圧倒できる現実世界の認知タスクは比較的少ないと考えています。具体的には、2 つの領域を提案します：予測と説得です。私たちは、地政学的イベント（例えば選挙）の予測において、AI は訓練された人間（特に人間のチーム、あるいは単純な自動化ツールで補強された場合）に対して意味のある形で上回ることはできないと予測しています。人々を自己利益に反する行動をとるよう説得するというタスクについても、同じ予測を行います。 彼のこの件に対する完全な回答は、エッセイのセクション 3B で読むことができますが、要約すればそれは人間の生物学的限界に焦点を当てています： 人類はアフリカのサバンナにおける何千年もの進化を通じて能力を獲得しました。"予測コンテストで可能な限り最高のブリアー・スコアを得る"という特定の圧力がサバンナにあったわけではなく、人間がこれを達成したと考える特別な理由もありません。実際、過去 10,000 年間に農業への対応として人間の知能が高まったという進化の証拠が真実であるならば、人類は間違いなくアフリカのサバンナにおいて宇宙最大のレベルには達していません。なぜなら、この最後の非常に短い選択のラウンドが正確に最適なものになったと考える必要があるのでしょうか？ しかし、人間の能力を生物学的に捉える考え方を拒絶することは、私たちが「人間の能力は生物学によって制約されない」というセクションで詳細に説明しようとする出発点の重要なポイントです。これが異なる世界観の間での議論における問題です：特定の主張だけを抜き取り、それに至る前提や用語の明確化を無視して、自分の世界観で解釈すれば、相手が何も分かっていないように見えてしまいます。アレクサンダーは、サバンナに住んでいた人がタイムトラベルして現代に来たとしても選挙を予測できるだろうと私たちが示唆していると考えているのでしょうか？ 彼は確かに人間のパフォーマンスが固定されていないことを強調していますが、それを私たちの主張の反証だと捉えているようです（むしろ中

AIを通常の技術として理解するためのガイド

背景や根拠まで確認しますか？

関連記事

調べる

選ぶ

サイト