オープンモデルと政府規制に関するディーン・ボールの視点

Anthropic と戦争省（DoW）の間で歴史が展開するのを傍観している間、これがオープンモデルに対する見解における大きな転換点になり得ることは明白でしたが、それが明白になるまでには数年かかるでしょう。AI がより強力になるにつれ、既存の権力構造は既存企業との相対的な役割について葛藤することになります。オープンモデルの一部はこの状況を「重みを持たなければ脳も持たない」と表現しますが、これは政府がこの事実に気づいた際に、はるかに大きな問題へとつながります。

AI が最も強力な技術であるなら、なぜ世界のどの組織も単一の米国企業（または政府）がその関係性を支配することを許すのでしょうか？

私はこの話題について議論するために、素晴らしいニュースレターを週次 Substack ライブに持ち込みました。結論として、私たちは DoW の最近の行動、特に Anthropic をサプライチェーンリスクとして指定した点（Dean と私も強く反対しています）が、オープンモデルが権力センターにとって 5〜10 年安定する均衡状態であることを示唆していることに同意しました。

この議論の要点は以下の通りです：

なぜオープンモデルは先週展開されたような権力争いの一部を回避できるのでしょうか？

短期的な向かい風から、オープンモデルの長期的な強さへとどう橋渡しするか？

オープンモデルとクローズドモデル間の能力の一般的なバランス。

翻訳全文

個人的には、これまで以上にオープンモデルを構築する必要性を感じており、より多くの関係者がそれに気づき始めたことを嬉しく思います。しかし、それをどのように資金調達し、組織化するかについてはまだわかりません。称賛をコモディティ化する戦略は有効ですが、AI モデルのコストが数億ドルではなく兆ドル規模に近づくと、この戦略は機能しなくなります。オープンモデルは収益化が非常に難しいため、AI スタックの他の分野で実質的なビジネス成長がある中で、これらのモデルを誰が構築するかという課題には、まだ平坦ではない道が待っています。

この難しいトピックについてのご意見やフィードバックをお待ちしています！

Apple Podcasts、Spotify、またはポッドキャストをご利用いただいているその他のプラットフォームでお聴きください。他の Interconnects インタビューについては、こちらをご覧ください。

共有する

チャプター

00:00 イントロ：Anthropic のサプライチェーンリスクはオープンモデルにとって良いのか悪いのか？

04:03 オープンモデルの資金調達と広がるフロンティア格差

12:33 主権 AI と代替品への世界的な需要

20:55 オープンモデルエコシステム：Qwen、使いやすさ、および短期的展望

28:20 政府の権力、国有化リスク、そして計算資源の金融化

トランスクリプト

00:00:00 ネイサン・ランバート：では、ライブ配信を開始します。皆様、順次ご参加いただいております。ディーン氏とお話しできることを大変嬉しく思います。この番組を準備している最中に、公式のサプライチェーンリスク指定が提出されたというニュースが入ってきました。これはそのニュースに対する即座の反応ではありません。もし非常に興味深い新情報が飛び込んできた場合は、それについてお話ししましょう。今週起こった出来事すべてに共通する流れとして私が感じているのは、オープンモデルに関する話題ですが、明確な切り口があるわけではありません。まずディーン氏に対してこの点を整理していただこうと思います。つまり、オープンモデルには二つの側面があります。一つは、「私の重みではない、あなたの重みでもない、あなたの心でもない」といった陳腐な言い回しで、もしオープンモデルでなければ誰かがそれを奪ってしまうかもしれないという懸念です。人々はこれを強調し、「アンソロピックが知能を奪うのではないか」などと述べています。もう一つの側面は、オープンモデルが存在すること自体への懸念です。国防省（Department of War）が自由に目的のためにそれらを奪い取り使用できるのではないかという不安です。私はこれらの議論のどちらも少し陳腐化していると感じています。核心となる問いは、AI に対する統制が強まり、複数の利害関係者が関与するようになるような今回の出来事は、オープンウェイトモデルエコシステムにとって良いことなのか悪いことなのか、ということです。

00:01:12 ディーン・ボール：私の推測では、長期的に見ればこれはおそらくオープンウェイト AI にとって非常に良いことだと思います。私がこの分野に関心を持った理由もまさにそれです。以前は全く異なることに時間を費やしており、さまざまな種類の政策について書き、異なる種類の政策を研究していました。私がこの問題に取り組むようになったのは、政府がすぐに……つまり、間もなくスーパーインテリジェンスを構築するかもしれない、あるいは非常に高度で重要かつ強力な AI が登場するかもしれないと仮定したとき、それが私の日常生活に深く関わるものになることに直ちに気づいたからです。私はあらゆる場面でそれを必要とするでしょう。それはアメリカ人としての表現の自由や、自由の行使といったものに深く影響を及ぼすことになります。同時に、国家安全保障にも深く関わる問題です。したがって政府はこれに手を広げることになり、また私がそれを使用することを好まないかもしれません。なぜなら、私や他の人々がそれを活用して現状打破を図ったり、政府もその一部となっている既存の権力構造に挑戦したりする可能性があるからです。私の見解では、ここには政治的な問題が横たわっています。

00:02:36 ディーン・ボール：直ちに、これが巨大な問題になることに気づきました。これは対立を生むでしょう。なぜなら、これはアメリカの言論と自由を極めて深く関与させるものだからです。同時に、正当な国家安全保障上の課題も生じますし、政府は権力追求という不適切な理由からこれを欲しがるでしょう。したがって、これらは常に状況の一部となります。私の見解では、これは今後数十年にわたって展開される闘争であり、私はその一部になりたいと考えています。しかし二つ目に、この闘争においては保険政策が必要です。オープンウェイト（Open weight）がその保険政策です。オープンウェイトこそが、常に「はい」と言える方法であり、私たちはオープンエコシステムを構築できるのです。それは可能です。したがって、時間の経過とともにこれは有益になると思いますが、問題はここで解決しなければならない調整や経済的な課題が多数あることです。単に、Google や Meta、あるいは他の企業、中国の企業が、善意によって引き続きオープンソース化し続けることを期待しているだけでは不十分です。それはスケーラブルではありません。それを行う理由が存在しなければなりません。では、長期的に見てオープンウェイトはどのような制度的動態を示すのでしょうか？私は本当に知りませんが、非常に理論化が不足しているように感じられます。

00:04:03 ネイサン・ランバート：資金調達が難しいというのが実情だと思います。今週、Qwen が混乱に陥ったのを見ましたが、タイミングよく、そして驚くことではありません。これらの企業にとっての stakes（賭け金）があまりにも高く、すべてが自社の勝利を確実にしようとしているからです。人々は「Meta は補完財をコモディティ化してオープンモデルをリリースすべきだ」と言うかもしれません。しかし、1 兆ドルものコストがかかるものを補完財としてコモディティ化した企業はかつてありません。それは明細項目の一つです。例えば、Apple がコモディティ化するでしょうか？Apple が自社の補完財をコモディティ化することは、他社と同じように CapEx（資本支出）に巨額の資金を投じ、数百億ドルを費やすことを意味しますが、彼らはあえてそうしていません。長期的には改善されるべきだと私も同意しますが、もしそのギャップを埋められなければ、実際に実現するのでしょうか？これらのモデルがより良くなるという crank（クランク）は回され続けています。GPT 5.4 が本日リリースされましたので、試してみるのが楽しみです。

00:05:02 ネイサン・ランバート：しかし、どこへ向かうのでしょうか？私が取り組んでいることは完全にフロンティア（最先端）から取り残されています。私たちは研究の基盤ですが、すでに後退しているように見えます。

00:05:13 Dean Ball: つまり、短期的には悪化し、厳しい状況になると思います。私の見解では、その点に疑いの余地はありません。なぜなら、私たちは今まさにそのような時期にあり、フロンティア技術の進展ペースは続くと考えているからです。私自身の考えとしては、中国製のオープンウェイトモデルを定期的に覗き見て使用しているため、米国のフロンティアとオープンのフロンティアとの間の格差が広がったように感じています。残念ながら、米国のフロンティアとオープンのフロンティアがますます別々のものになりつつあるのは悲しいことです。しかし、おそらくそれが真実なのだと私は感じています。そして、これはおそらく続くでしょう。なぜなら、新技術の初期段階では、垂直統合型のプレイヤーが最も成果を上げるのが当然だからです。時間が経てば、モジュラー型のプレイヤーが勝つ可能性もありますが、その理由の一つは、最終的には「十分良い」レベルに達するからです。例えば、現在ではほとんどの人が iPhone は十分良いと考えていると思います。かつては毎年 iPhone のアップグレードで「なんて素晴らしいのだろう」と思われる時期もありましたが、知能についてはもしかしたら違うかもしれません。しかし、多くのことにおいてはそうではないのかもしれません。

00:06:37 Nathan Lambert: そうですね、Apple 以外から誰でも買える iPhone は存在しません。Apple 以外のどこでも買える製品で、これほどまでに優れたものは他にありません。これが懸念点です。Anthropic が「もうこれ以上は良くなりませんが、再構築できません」という状況になるのでしょうか？つまり、オープンソース版を作ることができないのです。

00:06:51 ネイサン・ランバート：私も、より後の質問をしようと思っていました。それは、重み（weights）については私にとってそれほど心配事ではないということです。つまり、誰かが2兆パラメータのモデルをオープンウェイトで公開し、他者がオープンソースで構築・公開したどのものよりもはるかに優れたものであった場合、それをClaudeのようなシステムにするために必要なハッチやツール、セットアップを理解していなくても、ほとんど問題にはなりません。実際、1日あたり10万ドルのコストがかかる80ノードのH100が必要であり、それをシステムとして機能させるための専門知識も必要です。重みへの依存からシフトする動きはすでに起こっています。しかし、このオープン versus クローズドのエコシステムにおける議論の表面レベルでは、その変化が起きているとは考えていません。だからこそ、私が言いたいのは、それが実際に存在するかどうかはわからないということです。私が考えられるのは、オープンウェイトモデルがニッチな領域となり、Claudeのようなモデルを支援するものの、その宇宙には代替案が存在しないというシナリオです。つまり、政府がこの代替案を実際に成立させる能力があるのかどうか、私はわかりません。マンハッタン計画のようにこれを強制できるかどうかは不明ですし、それを推奨もしません。

00:07:53 ディーン・ボール：私はむしろ逆の視点から考えています。なぜなら、政府がアンソロピックに対して示唆した通り、事実上どの軍事請負業者もアンソロピックとの商業関係を一切持てなくする措置を実行した場合を考えると、それは NVIDIA が同社に GPU を販売できなくなることを意味します。Amazon も同様にクラウドサービスを販売できなくなります。なお、商業関係を文字通り解釈すれば、Amazon や NVIDIA が同社に出資することもできなくなります。実際には政府がそのような権限を持っているわけではありませんが、それでもこの嫌がらせキャンペーンが続けば、おそらくこうなるでしょう。私は国際政策の分野で多くの時間を過ごし、外国政府や市民社会と対話し交渉していますが、彼らはすでに米国のクローズドソースモデルに対して大きな信頼の問題を抱えています。なぜなら、米国政府がやってきてモデルを無効化するのではないかと思っているからです。例えば、アメリカ大統領がブラジルに怒り、関税や制裁を課すだけでなく、「米国製のクローズドソースモデルに依存するすべての公共サービスをすべて停止する」と言うような事態です。そうでしょう？人々はこれを深刻な脅威と捉えており、他の国々の人々も実際にそれを恐れています。

00:10:00 ディーン・ボール：私は、この動きがその恐れをさらに意味のある程度まで高めることになると思います。そして、おそらくそれは誤りではなく、むしろ正当な措置だとも思います。そこで私はこう考えます。さて、今や多くのアメリカ企業も同様の懸念を抱くようになるでしょう。したがって、「これは理解できる。商業関係があるものを使うことはリスクだ」と考える人々からの需要側が生まれるはずです。「なぜなら、一度商業関係が成立すれば、政府がそれを規制できるからだ。どうにかしてそこから逃れる方法はないか？」と。そのような需要が生じると思います。その需要が供給を生み出すかどうかは…それ次第でしょう。実際、それが不可能な場合もあるかもしれません。しかし、これほどまでに好ましい需要の状況がこれまでになかったことは確かです。そして私は、長期的に見れば、この動きがオープンモデルを有利にする可能性があると推測しています。

00:10:44 ネイサン・ランバート：はい。この件についてはいくつかの視点があります。私が ATOM プロジェクトやその他行っている活動を通じて、どのようにして意味ある提言ができるかという点です。AI2 で働いている私としては、AI2 は百億ドル規模の予算を持っており、 decent なモデルを訓練できる能力を持っています。しかし、もし私が AI2 を再構築したいと考えるなら、その資金調達の方法は主にビリオネアとの親交を深めることに依存することになるでしょう。短期的には慈善活動というサイコロ投げが有効な手段のように思えます。しかし一方で、これはおそらく数年かけて地面に根を下ろし、ゆっくりと成長する多産業コンソーシアムによる長期的な取り組みなのかもしれません。Google や Netflix、あるいは数百億ドル規模の他の企業などが、自分たちで十億ドルを調達できない代わりに、誰かがそれを代行してくれることを望み、数百万ドルを提供するようになるでしょう。なぜなら、彼らはその存在が必要だと知っているからです。

00:11:31 ディーン・ボール：そして主権富基金です。そうですね。世界中の主権富基金がそれを行うことができます。主権富には何兆ドルもの資金がありますし、年金基金や公務員向け年金基金もあります。多くの人々がこれに参加することが可能で、実現可能です。これはヤン・ルコンも必然的な帰結だと考えていることです。彼は将来、いくつかの国がこれを所有することはできないほど重要になるため、ある種のグローバルなコンソーシアムが集まってこれを構築する未来になると考えています。私はいつもその見解に少し懐疑的でしたし、正直に言って、その帰結は世界にとっておそらく悪い結果だと常々思っていました。

00:12:06 ネイサン・ランバート：それは AI の質がどうなるかという点では悪い帰結です。

00:12:09 ディーン・ボール：その通りです。それは社会主義的な帰結ですね。共産主義ではありませんが、民主的社会主義であり、私は民主的社会主義者ではないので、それを非常に好んでいるわけではありません。しかし同時に、正直に言って、このことがまさにその帰結が現実化する確率を高める可能性があると私は思っています。

00:12:33 ネイサン・ランバート：もっと早く起こりうるのは、多くの超富裕国が、実際に主権 AI を構築し、特にオープンモデルから始めて何らかの動きを起こせることに気づくことです。UAE の大学システムを基盤とした「Foundation Models Institute（基礎モデル研究所）」のようなものがあります。つまりそれは--

00:12:53 ディーン・ボール：それは非常に UAE 色強いですね、はい。

彼らはこれを何年も続けており、今後も続けられるでしょう。彼らのモデルは非常に良くなるはずですし、これを行う人も増えると思います。EU には SWISS イニシアチブがあり、これは一方で良い仕事をしていますが、他方では人材の循環やコンソーシアムの運営における明白な欧州の限界に悩まされています。これらの動きは来年さらに一般的になると思いますが、それが具体的にどのように影響するかはわかりません。これらは AI の最前線には直接影響しないものの、AI の地政学と権力がどのように進化していくかのようなものかもしれません。なぜか私は、オープンモデルこそが彼らが取るべき道だと感じています。もし彼らが同等の性能を持たないクローズドモデルを採用すれば、それは何らかの力を与えることにはならないからです。しかし、それが実際に何を意味するかについての私の世界観は十分ではありませんし、EU のモデルが増えたり、インドがまとまって堅牢なモデルを訓練したりした場合にどうなるかもわかりません。ただ、おそらくそのようなことは起こるだろうと感じています。

00:13:54 ディーン・ボール：はい。実は非常に興味深い点で、もう一つの重要な要素として……これは本質的に……つまり、Linux と macOS を比較するようなものですね。人々にとっての体験としては、必ずしも同等のものにはなりません。しかし、そこから奇妙な状況が生じます。例えば、macOS が米国政府に所有されていると見なされた場合、それほど魅力的なものとは思えないのではないでしょうか？実際、私が考えるに、Apple が消費者や企業に対してその主張を非常に説得力を持って行えている理由の一つは、過去にも米国の政府からの圧力に対し、情報を引き渡すよう求める要求を拒否してきたからです。約十年前のサンバーナーディーノ（カリフォルニア州）での銃撃事件を覚えている方もいらっしゃるでしょう。当時、FBI は Apple に iPhone のデータ開示を強制しようとしましたが、Apple は「そのような情報を公開はしない」と答えました。現在では FBI が結局ハッキングしてデータを入手したようですが、それは別の問題です。ここでは原則の問題なのです。

00:15:01 ディーン・ボール：ですから、興味深い質問ですね。近い将来、オープンなフロンティアとアメリカのクローズドなフロンティアとの格差が広がることを期待すべきでしょうか？特に、両者が持つ計算資源（compute）の規模の違いによる影響を考えると、その可能性は高いと考えられます。

00:15:30 ネイサン・ランバート：100% そうです。データと人材の問題でもあります。まさに 100% です。すでに進行中です。

00:15:34 ディーン・ボール：データ、人材です。そしてこれは複利効果が生じているのですよね？私の考えでは、これが常にそうでした。どれほどの規模になるかは確信が持てませんが、これらの要素は相乗効果をもたらすため、非常に大きな影響を及ぼす可能性があります。したがって、これらが単に複利効果を続けると予想すれば、突然のうちに状況は急速に暗いものになると懸念しています。

00:16:00 ネイサン・ランバート：その一つが…つまり、あなたはこの点についてどうお考えですか？なぜこれほどまでに速く複利効果が現れなかったのでしょうか？私には、この三社が中国のラボが費やしている金額の約 10 倍を投入しているように思えますが、得られるモデルはわずかに改善される程度です。私は Claude や ChatGPT、そしてこれらのモデルがはるかに優れていると心から信じており、さらに向上する余地があると考えていましたが、なぜすでにこれほどまでに先行していないのかは依然として不思議に思えます。

00:16:29 ディーン・ボール：私はこの件について行ったり来たりする考えを持っています。時には、彼らがあまりにも先行していると感じ、ベンチマークでその優位性を示すことが難しいとも思います。それは明白な理由によるものです。つまり、ベンチマークは追及される対象だからです。そして、コーディング・エージェントや特定のユースケースにおいては、アメリカのフロンティアが中国のフロンティアよりも遥かに、深く先行していると感じます。しかし、それ以外の多くの分野では、どこまで良くなるかという点で飽和状態に達してしまうこともあります。私は、AI の利用の非常に大きな割合は、実質的には「格好の良いグーグル検索」に過ぎないと推測しています。私自身は AI を単なる格好の良いグーグル検索だとは思っていませんが、消費者レベルでは人々がそれを主にそのような用途で使っている可能性が高いと考えています。そして、そのような分野においてどれほど改善できるかは、私には明確ではありません。しかし、私の予測では、今後 5 年間でアメリカの研究機関が本格的に飛躍するでしょう。その理由の一部は、計算資源（compute）、データ、および再帰的自己改良（recursive self-improvement）スタイルの内部展開にあるからです。また、今やそれを単なる当然のこととして語る私たちの姿には驚かされます。

00:18:05 ネイサン・ランバート：これには天井があると思います。彼らは大幅な改善を遂げるでしょう——その進歩は尋常ではありません。個人的に私の仕事では、研究マネージャーとして多くの時間を過ごし、モデルを完成させるために様々な課題を追いかけてきました。しかし今は、ハードウェアエンジニアリングの難しいタスクも引き受けることができます。「同じタイミングでこれを行うのも悪くない」と考えるからです。ゼロから誰でも手が届く範囲のソフトウェアエンジニア 100 人を増やすことは、探索の観点から非常に価値がありますが、次に 100 人から 1 万人へと拡大する段階では、人々がそれを台無しにしてしまうようなリスクが生じる可能性があります。しかしそれでも、これは大きな進歩です。

00:18:37 ディーン・ボール：私も部分的に同意します。そこにもシグモイド関数（Sigmoid function）のような曲線が現れるでしょう。ただし、次に起こり得ることは、AI 企業や現在のモデルベンダーが、最終的に真のインフラストラクチャー企業へと変貌するのではないかという点です。つまり、彼らが実際に手掛けるのは、自らのチップを設計するモデル、自らのデータセンターを設計するモデル、そして自らの後継者を設計するモデルを持つことです。これは極めて垂直統合された構造であり、あなたがアクセスできるのは単なるモデルそのものではなく、このように高度に最適化されたハードウェアや物理的な世界インフラストラクチャーです。これもすでに一部で実現されていますが、これがさらに進んでいくのでしょうか？そしてそれがオープンなプレイヤーにとって真に克服不可能なものとなるでしょうか。それは定義上