米オープンソースAIラボ、中国モデルは危険でない

中国のオープンウェイト AI モデルが能力と人気をさらに高めている中、これらに対してどう対処すべきかという議論は再び過熱しています。

トランプ政権がこれらのモデルを禁止しようとする可能性について言及されています（ただし現時点で具体的な措置はまだ取られていません）。一方、クローズドなプロプライエタリモデルの開発者、特に OpenAI や Anthropic は、中国のオープンモデルに対して次第に強い懸念を抱いているようです。

Moonshot AI の「Kimi K3」やアリババの「Qwen」などのオープンウェイトモデルは、大手米国のラボが提供するクローズドソースモデルと比較して、トークンあたりの推論コストを大幅に抑えることができます。しかし、それらが何らかの脅威をもたらすのではないかという懸念も根強くあります。確かに、これらは大手プロプライエタリ AI ラボの利益率にとって脅威となることは間違いありません。

では、自社のデータセンターでこれらのモデルを実行する企業は、中国のハッカーによる攻撃経路になるかもしれないという恐怖に屈すべきなのでしょうか？

いいえ、そうではありません。Arcee の CTO であるルカス・アトキンス氏は、そのように答えています。同社は、米国企業が中国製モデルに頼らずに済むよう、国産の代替オープンモデルの開発を進めています。

もし中国製モデルの禁止措置が恩恵を受けるスタートアップがあるとすれば、アーシー（Arcee）もその一つでしょう。しかしアトキンス氏は、中国製のオープンモデルは、企業が利用する他のオープンソースソフトウェアと比べて危険なわけではないと述べています。むしろ彼は、自社の事業にもメリットがあると言っています。

「多くの人は、これを中国のソフトウェアプログラムと同様に捉えています。『特定の意図（x, y, z）でコードが書かれており、悪意のある行為者がそれを命令できる』と考えているのです」とアトキンス氏は指摘します。

「しかし、モデルの学習方法は根本的に異なります。アーシーやアリババのような企業がモデルを作成し、他社環境で実行させたとしても、私たちがそのモデルにアクセスする手段など存在しません」と彼は説明しました。

これらのモデルの多くは「オープンウェイト（重み公開）」と呼ばれるもので、完全なオープンソースソフトウェアではありませんが、Hugging Face などのオープンソースサイトからダウンロードされるソースコード（サーバー上で実際に動作する部分）は、同様に広く公開され、レビュー可能です。ただし、モデル学習に用いられた手法やデータそのものは非公開です。

大規模組織は、あらゆるモデルのコア部分をセキュリティテストと検査プロセスに通す必要があります。また、特定の用途に合わせて事後学習（ポストトレーニング）を行い、バイアス、毒性、ハルシネーション（幻覚）、特定トピックへの感度などの領域を検査することも一般的です。つまり、ユーザーがプロンプトを送り始める前に、組織はモデルと協力し、最適化し、理解を深めておく必要があるのです。

コード生成に用いられるモデルが、作成するコードに悪意のあるバックドアを仕込むことはあるのだろうか？理論的には不可能ではないが、それを達成するには極めて高度な技が必要となる。

「十分に洗練されたアクターが、あらゆる状況で完璧なコーディングモデルとして機能するように訓練することは可能だ。しかし、特定の種類のコードベースが提示されると、隠された学習メカニズムが作動するかもしれない」と、モデルの訓練に日々取り組むアトキンスは推測した。だが続けて、「それが具体的にどう実現されるのかはわからない」とも付け加えている。

大規模言語モデルは本質的に創造的であるため、事前に用意された完璧なコンテキストとプロンプトという「完璧な嵐」に対して、現代のモデルがマルウェアを出力する可能性は極めて低い。さらに、そのコードを実際に企業が採用する確率は、それよりもさらに低い。

将来起こり得るだろうか？それは誰にもわからない。しかし、企業側も AI アプリケーションを特定のモデルに依存しない（モデルアグノスティック）設計とし、複数のモデルを活用するよう構築している。たとえ中国製モデルが現在の価格帯で最良だとしても、企業がそれを永遠に使い続ける必要はない。

「中国製モデルの禁止方法について議論するのではなく、米国においてどのように良いオープンエコシステムを育むかという対話になるべきだ」とアトキンスは語る。

アーシーは中国のモデルからも恩恵を受けています。それらがオープンであるからこそ、スタートアップは「彼らのモデルが優れていることにメリットがあるのです。なぜなら、彼らが何をしたかを学べるからです。彼らの上に新たなものを構築できる。そして、彼らは私たちが何をしているかを学ぶことができる」と語ります。「これらのモデルを構築している人々、個々の研究者に対して、私たちは多大な敬意を抱いています」。

最終的に、中国のモデルと競うための方法は「より優れたモデルをリリースすることだ」とアトキンスは言います。「彼らに議論の材料を与える必要があるのです」。

*当記事内のリンクを通じて購入された場合、小規模なコミッションを獲得する可能性があります。これは当社の編集独立性には影響しません。*