オープンモデルはあと6ヶ月で存続の危機

オープンソース AI の実用性を試す、これまでで最も深刻なテストが現在進行中です。ChatGPT 登場以降、オープンソース AI に反対する言説の波は幾度となく押し寄せましたが、その主張を現実の行動として執行しようとする動きには、当時主流だったクローズドモデルに対する既存の規制や措置に明確な類似点が見当たりませんでした。今回のケースが特に深刻なのは、新たな規制形態が実証され、かつ監督体制が不十分なまま導入されているからです。この状況が収まるまで、私は通常以上に政策関連の記事執筆に注力する予定です。

記事執筆時点では、ホワイトハウスが新しい大統領令を通じてオープンモデルをどう管理するかについて議論しているとする報道が複数あります。公式発表はまだありませんが、影響を受けるのはおそらく a) 中国発のモデルと b) 政府用途に限られるでしょう。しかし、これがドミノ倒しの第一歩となる可能性は十分にあります。

オープンモデルには、それらに対する措置の潜在的な悪影響を代弁する中心的な経済的な後援者が欠けています。Fable（およびその後継となる GPT-5.6）のライセンス契約をめぐる一連の出来事に関する最近の報道から、6 月 9 日に何が起こったかについてより多くの言及がなされました。

その会議では、プログラムがオープンソース AI モデルをどう扱うかという話題が出たと、関係者の一人が語っています。米国のオープンソースモデル提供企業である Reflection AI の代表は、能力に応じてオープンソースモデルには免除措置を設けるべきだと主張しました。同氏は現在、中国発のオープンソースモデルである DeepSeek などが他の利用可能なオープンモデルに大きな差をつけてリードしており、一方の Reflection はまだ公開モデルをローンチしていないと付け加えています。

いかなる形での禁止も、AI の長期的な発展にとって大きな誤りとなるでしょう。

最も可能性が高いのは、GPT-5.5 や Claude Opus 4.8、GLM-5.2 と同等以上の能力を持つオープンウェイトモデルを禁止するか、あるいは事実上永久に延期する措置です。現在の明確な性能差を考慮すれば、これは今後 6 ヶ月以内に実施される可能性が高いでしょう。

現状では、こうした規制の対象となるのは主に中国企業から出てくるモデルとなります。これにより、最先端のオープンモデル能力に関する議論は、蒸留（ディストillation）などの他の問題と不可避的に結びついてしまいます。政府による「レビュー権」の能力基準は時間とともに変化していくでしょうが、一度設定されれば、オープンモデルに対する審査プロセスはクローズドモデルに比べて大幅に遅れることが予想されます。その理由の一つは、クローズドモデルの方がセキュリティ確保が容易である点ですが、もう一つの大きな要因は、クローズドモデル企業の方がロビー活動において圧倒的に効果的だからです。

つまり、オープンモデルをめぐる政策議論の場では、現在「蒸留（ディストillation）」と「最先端機能」の 2 つが同時に進行しています。これらは性質も、対応の緊急性も、そして取りうる対策の範囲も大きく異なります。しかし、この 2 つを合わせると、今後 6 ヶ月以内にオープンモデルへの全面禁止を求める声が急激に高まっているプラットフォームにおける主要な議論ポイントとして浮き彫りになっています。

現在規制を推進する主な原動力は、オープンウェイトモデルがまもなく Claude の「Mythos」モデルと同等の能力に達するという避けられない事実です。実際に公開されるモデルのパフォーマンスは、必ずしも滑らかではなく、むしろばらつきがある可能性が高いでしょう。しかし、重要なのは、そのモデルが現在進行中のホワイトハウスの AI モデルチェック機構で警告フラグを立てられるだけで十分だということです。恐怖に駆られた新しい習慣を元に戻すのは容易ではありません。

現在の蒸留をめぐる議論は、実質的に規制の取り込み（レギュラトリー・キャプチャー）キャンペーンであり、現状維持も悪くありません。なぜなら、現在提案されている解決策はいずれも、それを推進する組織にのみ巨額の利益をもたらすものだからです。

補足すると、中国企業に対する政治的なキャンペーンはアンソロピック（Anthropic）が主導しており、同社はブログ記事や議員宛ての書簡を通じて、中国企業が何を行っているかを詳細に伝えています。アンソロピックは、海外企業の利用を検知しました。具体的には、外部の企業が API を利用して支払いを行い、その後利用を停止し、強い口調で政策対応を推奨する声明を出した上で、技術的な証拠は最小限しか提示していないという状況です。

このキャンペーンは当初は正当なビジネス上の懸念から始まった可能性がありますが、現在では規制の乗っ取り（レギュラトリー・キャプチャー）そのものと言えます。なぜなら、アンソロピックが非難している中国のモデル開発者が禁止された場合、同社の製品には実質的な経済的セキュリティがもたらされるからです。

もしアンソロピックが「あなたが判断してください」という中立的な姿勢で情報を提示していたのであれば、コミュニティからの共感を得られたはずです。しかし現状は、急速に進化する技術の最前線における情報共有というよりは、単なる政策提言に過ぎません。仮にアンソロピックの技術が彼らが主張するほど強力であり、同様のオープンモデルも禁止されるべきだとしたら、彼ら自身で API のセキュリティを確保できるはずです。私はまだ、なぜそれができないのかという説明を待っています。少なくとも、彼らの声明の一部は撤回される必要があるでしょう。

Anthropic は、知能へのアクセスを制限する別の手段も講じています。つまり、中国との競争という文脈で提言している政治的な主張は、安全性の名の下に競合他社や関連技術へのアクセスを制限するという、より広範なパターンの一環として理解すべきです。多くの従業員が世代を超えた富を得る見込みにある中で、会社文化の一環として安全重視の姿勢を受け入れるのは容易いことです。私は従業員たちを責めるつもりはありませんが、Anthropic の企業戦略は、こうした広い文脈の中で捉える必要があります。ベン・トムソンの「Anthropic の安全性という超能力」という記事は、このテーマについて最も優れた論考です。

Anthropic が実質的に求めているのは、米国内におけるほぼすべての中国製オープンウェイトモデルの全面禁止です。しかし、オープンモデルを基盤とした製品は、モデルが改善されるにつれて継続的な進化、市場適合性の向上、計算効率の向上に依存しています。もしこうしたモデルへのアクセスが制限されれば、推論企業やファインチューニング企業、そしてその間のあらゆる新製品を含む、米国内で生まれつつあるオープンモデルエコノミーは崩壊してしまいます。私たちはコミュニティとして、蒸留（ディストillation）に関する議論において何らかの譲歩を受け入れることは許されないという立場を堅持し続ける必要があります。

Anthropic は自社の知的財産を守るべきですが、政府に自社の地位を固定化させるよう求め、その結果として米国がグローバルなオープンソースコミュニティから孤立する恐れがあるようなことは避けるべきです。現時点で入手できる情報に基づけば、蒸留（ディストillation）に対する完璧な解決策はなく、各ラボが自主的に規制を課す以外に道はありません。

私は特に「蒸留」について長文で論じてきました。モデルの能力や規制環境への影響についても直接触れており、詳細は Interconnects に関する記事中の行間から検索できます。

Interconnects AI は読者支援型の出版物です。購読をご検討ください。

API は自動的に安全ではない

蒸留をめぐる議論には特有の複雑さがあります。中国のラボが、Mythos の限定的なサイバーセキュリティ機能をオープンモデルに蒸留しているという深刻な懸念がある一方で、これはむしろ現在のモデル API が抱える脆弱性を浮き彫りにしています。Claude Mythos が最も制限の厳しいプライベートベータ版だった時期でさえ、Discord の調査チーム（Sleuths）が Anthropic の Mythos に不正アクセスした事例がありました。現在に至るまで、モデル API は依然として jailbreak されたり、意図しない方法でアクセスされ続けています。

1 トリオン以上のパラメータを持つモデルを複雑に微調整するプロセスと比較して、能力が悪意ある行為者に流出するリスクがこれほど急速に増大するケースは他にありません。私はサイバーセキュリティの専門家ではありませんが、「オープンウェイトモデルだけが危険で、API は安全である」という二項対立論はここ数年、過剰に誇張されてきたように思えます。概念上、API の方がより安全であるべきですが、それが実際に証明されたわけではありません。

Anthropic のモデルに真に危険な能力が含まれているなら、その議論が蒸留（distillation）される以前に、直接クエリ可能な API としてホストしないことが唯一の整合性のある対応策となるはずです。

Ready or not, open models are coming

準備ができようがなかろうが、オープンモデルはやってきます。ここで難しいのは、こうした蒸散に関する議論と並行して、「Mythos のような一般的能力レベルを持つフロンティア級のオープンウェイトモデルをどう扱うか」という課題に直面している点です。これは非常に困難な問いであり、人間には自然な傾向として、別の問題（蒸留）に対する提案された解決策を、より現実的で深刻な新たな問題（フロンティア能力）にも適用したがる心理が働きます。

オープンなフロンティア能力に対する適切なポリシーを確立する必要がありますが、全面的な禁止は答えではないでしょう。中国でも同様のモデルが禁止されていない限り、悪意ある行為者が禁止されたオープンウェイトモデルを容易に利用できてしまい、安全性の確保という目的自体が無効化されてしまいます。

同時に、特定のモデルの輸入を日本単独で禁止したとしても、世界のオープンソースコミュニティは存続し続けます。もし米国が中国やリスク感受性の高い他の文化圏よりも先にこれらのモデルを禁止する世界になったとしたら、それは AI への過度な恐怖心（あるいはその他の社会的・政治的な勢い）が米国の政府に早期の行動を迫ったことを示唆することになります。

まるで米国でディストピアをスピードランしているかのようです。経済の宝であるはずのテック産業は、実際には統制と政府による投資が行き届いた中国型のシステムのように見えてしまいます。これは非常に悪い結果です！

オープンソースの進展に上限をつける唯一の方法は、AI モデルのリスク管理に関する国際合意ですが、私たちはまだその段階には至っていません。他の要因による遅延は、米国における AI の展開を予測不能にし、ますます混乱したものにしています。

これは GPT-5.6 のリリース時と似た感覚になるでしょうが、今回はオープンで安価な知能の恩恵が一部の企業に限定されるだけでなく、悪意のあるアクターたちもすぐにアクセスできるようになってしまいます。安全性を高めるのは、アクセス範囲を広げ理解を深めることであって、良いアクターだけを無力化することではありません。

現実問題として、オープンソースエコシステムを止めることはできません。最良のモデルを開発している人々もリスク評価を行っており、中国は特にリスクに敏感です。例えば Z ai はすでに公開企業となり、包括的な圧力にさらされています。株価が急騰し続けることを維持するためにも、そうした圧力への対応が必要です。

今後、懸念されるレベルの能力を持つモデルがさらに増えるでしょう。AI モデルの学習は魔法のようなものではなく、必要な投資が増大しているにもかかわらず、その構築へのアクセスが失われた様子はまだ見ていません。

オープンソースにおけるこの政策の死循環に対する短期的な回避策の一つは、米国の企業が同程度の能力を持つオープンモデルをリリースすることです。これにより、「中国だけが蒸留を通じてオープンモデルを構築している」という焦点から、「私たちは皆同じ船に乗り、エコシステム内の複雑で変化する最前線の課題に取り組むべきだ」という認識へとシフトします。

これはオープンソースにとって死活に関わる優先事項であり、Microsoft や Meta のように、補完財の商品化というビジネス上の理由からオープンウェイトモデルをリリースする企業は、今すぐ行動すべきです。新しいリーダーシップの下にある Meta についてはあまり自信はありませんが、AI への大規模なアクセスという恩恵を受けている以上、自らの足元をすくうようなことは避けるべきでしょう。

もし Reflection が中程度の能力を持つモデル（最前線ではない）を保有しているなら、提案されたビジネス方向性を救うために、そのモデルをリリースする必要があるかもしれません。

新しいモデルを訓練するよりも短期間で実現可能な解決策は、連合を結成することです。オープンソースは明確な所有権を持たない分散型の技術ですが、その恩恵は多くの人々に共有されます。「フロンティア・ラボ」以外の「他のすべて」が、今日から動き出す必要があります。具体的には、オープンウェイトモデルの安全な展開を継続する方法や、その原則と価値観を権力者に働きかけるためのロビー活動についてです。

AI 議論における温度上昇