OpenAI、オープンウェイトモデルを懸念

中国の研究所 Moonshot が開発した Kimi K3 は、現在最大のオープンウェイト大規模言語モデルとしてその能力に驚異的なものを見せています。この登場が引き金となり、「米国の AI 大手の経済的ポテンシャル」と「LLM という技術としての将来」の二つの異なる議論が混同された形で論じられるようになりました。

OpenAI の戦略未来責任者である Dean W. Ball は、オープンウェイトモデルは最先端研究所による資本支出を必然的に抑制するため、米政府が新たな規制に対する恐怖や不確実性、不信感を煽る口実を見つけるべきだと主張しました。これは、この投稿 で語られた内容です。

これに多くの人が動揺し、Yann LeCun や Martin Casado といった技術界の重鎮たちは、オープンソースソフトウェアがイノベーションを加速させ、独自プロジェクトと共存できると反論しました。Ball はほどなく、規制強化がホワイトハウスの「最良の戦略」であるという主張や、オープンウェイトモデルが技術進歩を必然的に遅らせるという見解を撤回しました。

しかし、Axios は、トランプ政権がアメリカの最先端 AI ラボからの要請を受け入れ、K3 やその他の高度な中国製モデルの使用禁止を検討しているとの報道を伝えています。一方、Politico の別の報道では、商務省は直ちにそのような措置を取る予定はないと報じられています。

主要な AI 企業にとってのメリットは明白です。独立したインフラ上で動作する、あるいは大企業内部で利用されるオープンウェイトモデルは、Anthropic や OpenAI が提供する業界最高水準のクローズドモデルよりも安価に知能を提供します。ユーザーがこれらのクローズドラボの外側へ流出すれば、莫大なモデル学習投資に対する収益率は低下することになります。

この懸念は OpenAI だけのものではありません。「強力で最先端レベルのオープンソースモデルは、企業の利益率を圧迫し、最先端企業による価格引き下げを招く」と Snorkel AI の共同創設者であり、Laude Institute の研究パートナーであるブレンダン・ハンコック氏は TechCrunch に語っています。「必ずしも AI の利用量が少し減ることを意味するわけではありません。むしろ逆で、利用量は増えるはずです。」

Anthropic や OpenAI の株式を保有していない人々にとって、これは問題ではありません。AI は依然として普及し続けるでしょう。では、政府が公然と自由市場であるはずの国内で、アメリカ人が何かを購入することを禁止する正当な理由とは何なのでしょうか？

中国製モデルへの懸念にはいくつかの側面があります。一つは、中国政府から米国のデータを保護するという点です。米国はすでに、データ収集を懸念して現代の中国製電気自動車の輸入を禁止しています。しかし専門家の多くは、米国サーバー上で動作するオープンウェイトモデルが中国へデータを漏洩させる可能性は低いと考えています。もちろん、そのようなことが不可能だとは言い切れませんが。

もう一つの懸念は、これらのモデルが中華人民共和国に対して暗黙のバイアスを持っているのではないかという点です。ただし、それが例えばコーディングタスクにおいてどのような意味を持つのかは明確ではありません。

三つ目の一般的な懸念は、中国製モデルには米国政府が義務付けているガードレール（安全装置）が欠けているというものです。このプロセスは非公開で行われており、その目的は、最先端の米国の大規模言語モデル（LLM）が閉じたコンピューターシステムを悪用したり、兵器を作成するために使われたりしないようにすることです。しかし、これらのガードレールが逆に米国企業の脆弱性を高める可能性もあります。ベンチャーキャピタリストでありトランプ氏の顧問でもあるデヴィッド・サックス氏は、米国の最先端モデルが特定のタスクを引き受けない場合、企業が中国製の LLM に頼ってセキュリティの隙間を埋めている事例を紹介しています。

しかし、モデルを制限する最も重要な動機は、最先端の研究機関の活動が遅れると、中国が米国を抜いてしまうという恐れです。

ジョージタウン大学の安全保障・新技術センターで中国を専門とする研究フェローのサム・ブレスニック氏は、米軍作戦における AI の重要性が高まっていることは、フロンティア研究所への継続的な投資を支援する理由になると指摘します。しかし、彼によれば、この問題全体は非常にデリケートな側面を抱えています。

「なぜ米国政府が、自社の起源を理由に米国市場から締め出されている競合他社に対して、これらの企業を守るために重きを置く必要があるのか」とブレスニック氏は問います。

オープン AI を支持する人々は、フロンティア企業がイノベーションとクローズドモデルの間で誤った二項対立を作り出していると主張します。

「中国からこうしたオープンソースモデルが生まれることの最大のインパクトは、裏口から忍び込むことではなく、イノベーションの主導権を握られることにあります」とハンコック氏は TechCrunch に語りました。「結果として、実質的にモデルに対する労働力が拡大することになります。PyTorch が業界標準になったのはオープンソースだったからです。特定の企業だけでなくコミュニティ全体が貢献できるため、それは成長し続け、他のディープラーニングライブラリは比較にならないほど衰退しました。」

ハンコック氏をはじめとする支持者たちは、中国製の大規模言語モデル（LLM）が国際的な研究の中心地になることを懸念しています。すでに米国の大学院プログラムでは主にオープンウェイトの中国製モデルを基盤として構築されており、ハンコック氏によれば、学生が学ぶ論文の半数は中国の機関からのものであるといいます。一方、米国のフロンティア研究所は自社の成果を広範に共有することに次第に消極的になっています。

「オープンモデルを制限しても、AI が安全になるわけではありません」と語るのは、オープン AI コラボレーションのプラットフォームである Hugging Face の CEO、クレム・デラング氏です。「それは単にリスクを隠し、権力を少数の手に集中させるだけ。次世代のビルダーや研究者、学界、非営利団体、政府が、AI をより安全で、すべての人にとって有益なものにするための議論に参加することを難しくしてしまいます」。

ブレスニック氏は、中国を遅らせる本当の方法は、チップ輸出規制により焦点を絞ることだと指摘します。米国の AI リーダーシップを守るより良い方法は、中国への Nvidia H200 プロセッサの販売を止めることだといいます。「それこそが、多数の米国企業が利用したいと望むオープンソース技術を禁止するという棘のある議論から、我々を遠ざける可能性さえあります」と彼は述べています。

問題の一部は、AI の経済性に関する不確実性に起因しています。「オープンビジネスモデルも、プロプライエタリ（独占）ビジネスモデルも、どちらもまだ確立されていません。特にトレーニングコストが上昇し続ける中で、各 AI 企業がどうやってツールで収益を上げるかについて、頭を抱えているのが現状です」とブレスニック氏は指摘します。

米国で起きているのと同じ課題は、中国でも進行しています。中国の AI 企業も同様に、収益化と計算資源へのアクセスに苦戦しており、資本化の難しさがあるにもかかわらず、政府は政策上の理由からオープンなリリースを推進していると見られています。

Think Machines Lab や Nvidia など、米国の企業の中にはオープンモデルの公開をビジネスの柱にしようとする動きもあります。Hancock は、Nvidia のような企業が「チップを自社で製造できるほど資金力のある数社ではなく、数十社から数百社の企業が AI を構築している方が、はるかに成功するだろう」と指摘しています。これが同社がオープンモデルを集めた Nemotron へ投資した背景の一つです。

「米国にとって重要なのは、自国で非常に高性能かつコストの低いオープンモデルを持つことです」と Bresnick は語ります。「これは、フロンティア・ラボがこれまで取ってきたアプローチと真っ向から対立するものです。」

*Rebecca Bellan による追加取材*

*当記事内のリンクを通じてご購入いただいた場合、小規模な手数料が発生する可能性があります。ただし、これは当社の編集の独立性には一切影響しません。*