英政府、AIのオープン・クローズド格差縮小を指摘

AI 研究に特化したニュースレター「Import AI」へようこそ。本誌は arXiv の最新論文、カプチーノ、そして読者からのフィードバックを原動力に活動しています。ご支援いただける場合は、ぜひ購読をご検討ください。

購読はこちら

英国政府：サイバーセキュリティ分野におけるオープンとクローズドの格差が縮小

……サイバー・エスカトンの到来……

英国政府傘下の AI セキュリティ研究所（AISI）は、強力なプロプライエタリモデルとオープンウェイトモデルの間にあるサイバーセキュリティ能力の差を分析しました。その結果、今年の格差は縮小していることが明らかになりました。

「これは、主要なオープンウェイトモデルがクローズドな最前線にどれほど遅れをとっているかについて、我々が初めて公表する分析です」と AISI は述べています。「最近登場した GLM-5.2 や DeepSeek V4-Pro などのオープンモデルは、それらより 4〜7 ヶ月前にリリースされたクローズドな最前線モデルと同等の性能を示しています。これは、2025 年の大半で測定されていた 6〜10 ヶ月の格差よりも狭いものです。」

具体的な評価結果を見ると、特定の狭義のサイバー能力に関する 70 のテストセットにおいて、GLM-5.2 は約 4 ヶ月半前にリリースされた Claude Opus 4.6 に最も近い性能を示しました。一方、DeepSeek-V4-Pro は、それぞれ 2025 年 11 月と 8 月に登場した Claude Opus 4.5 と GPT-5 の中間あたりに位置しています。

AISI は「Kimi K3 の重みが公開され次第、同様の基準でテストする予定だ」と述べています。

一方、長期的なサイバーレンジ（複数の能力を連鎖させて完全なハッキング操作を完了させるタスク）では、この差はさらに広がります。特に「The Last Ones」と呼ばれるサイバーレンジでは、「GLM-5.2 は 7 ヶ月未満前にリリースされた Opus 4.5 に匹敵する性能を発揮しましたが、DeepSeek の V4-Pro は 7 ヶ月前に登場したサブサイバーフロンティアモデルである Sonnet 4.5 を下回りました」と AISI は指摘しています。「狭義のサイバータスクに比べて、ここでは格差がより顕著です」。

これは、オープンウェイトモデルは表面的には非常に強力に見えるものの、独自モデルを区別する汎化能力という「魔法のような要素」が少し欠けている可能性を示唆しているように思えます。AI 業界ではこれを「ビッグモデルの匂い（big model smell）」と呼んでいます。

なぜこれが重要なのか——世界の攻防バランスがまさに変わりつつあるからです。ここで示唆されている主な点は、制御可能な最先端領域と、規制のない公開拡散型の最先端領域との間の格差が縮小しているという事実です。

英国 AI セキュリティ研究所（AISI）は、「これは、サイバー防御担当者が準備できる時間が限られていることを意味する」と指摘しています。今日、民間企業が利用しているような厳重なセキュリティ対策を施した状態で、現在の最先端のサイバー能力が誰でも利用可能になる日がすぐそこにあるからです。

関連記事：主要なオープンウェイトモデルは、サイバー分野において最先端からどれほど遅れているのか？（英国 AI セキュリティ研究所ブログ）

Kimi：中国のモデルと欧米のモデルの格差縮小へ

…AI 研究開発における初期の兆候も

ここ数年、中国の企業はオープンウェイトモデル（重み公開型）の構築と展開において欧米勢を凌駕し始めました。そして今や、最先端モデルにおいてもその格差を埋めつつあります。この動きを象徴する最新かつ最良の例が、2.8 兆パラメータを持つ「Kimi K3」です。

Kimi は主要な独自モデルがベンチマークで評価するあらゆるタスクで驚異的なスコアを記録し、通常は Claude Fable 5 や GPT 5.6 Sol に匹敵するか、わずかに及ばない程度の実力を示しています。ただし、私には「ベンチマーク特化型（benchmaxxing）」の匂いも感じられます。つまり、一般化能力の一部が損なわれる形で、特定のベンチマーク結果を最適化している可能性があります。

Kimi 側はこう述べています。「全体的な性能はまだ Claude Fable 5 や GPT 5.6 Sol といった最強の独自モデルには及びませんが、Kimi K3 は評価スイート全体を通じて最先端レベルのパフォーマンスを発揮し、他社がテストした他のモデルを一貫して上回りました」と。

Kimi の重み公開は数週間以内に実施される見込みで、同時に本モデルに関する研究論文も発表されます。

AI が AI を構築する事例：Kimi は、再帰的な自己改善や、AI システム自体を向上させるための具体的なユースケースを示しています。特に注目すべきは、GPU コンパイラの作成における Kimi の能力です。

「Kimi K3 は『MiniTriton』を開発しました。これは MLIR 上に独自のタイルレベルの中間表現（IR）層を持ち、最適化パスと PTX コード生成パイプラインを備えた、コンパクトな Triton 風コンパイラです。サポートされているルーフラインベンチマーク全体において、MiniTriton は Triton や torch.compile と同等かそれ以上の性能を発揮し、特定のワークロードでは Triton を上回りました」と報告されています。

（なお、これらの成果が実際に本番環境で Kimi K3 の学習に使用されているという記述はありませんが、将来のモデルが同様のことを実現できる可能性を示唆する点で非常に興味深いです。）

さらに、Kimi K3 が「独自のアーキテクチャに基づいたナノモデルを支援するためのチップ設計」にも成功した事例も紹介されています。単なる 48 時間の自律的な実行期間の中で、K3 はオープンソースの EDA ツールと Nangate 45nm ライブラリを活用し、チップの設計から最適化、検証までを完了させました。

なぜこれが重要なのか——AI システムの普及が進むにつれて、その質は劇的に向上しています。現在の AI 政策や安全性に関する議論の多くは、「制御」を前提としています。つまり、限られた数の事業者が独自モデルを運用しており、プラットフォームレベル（分類器や本人確認ゲートなど）やモデルレベルで介入できるという考え方です。

しかし、Kimi K3 のようなモデルが重み付きデータを公開するとなれば、この構図は根本から変わります。制御不能な高性能 AI が広く世界に拡散されるからです。これには起業の勃興を促すなど、広範なプラス効果をもたらす一方で、誰にも予測できない未知のリスクも生じるでしょう。

今後数年間は、「独自モデル」と「誰でも利用可能なモデル」の格差が社会をどう形作るかが鍵となります。このギャップがどのように現れるかによって、政策議論の行方も大きく左右されることになるのです。

詳しくは：Kimi K3: Open Frontier Intelligence (Kimi blog) をご覧ください。

デミス・ハサビス氏、人工汎用知能（AGI）への規制枠組みを提案：「AI 版 FINRA」の構想

DeepMind の創設者であるデミス・ハサビス氏が、AGI に向けた政策提言を発表しました。その核心は、米国政府が最先端 AI システムの新たな能力を検証する枠組みを整備し、その運営を金融業界規制局（FINRA）のような連邦監督下の官民連携組織や自主規制機関をモデルとした「基準策定機関」に委ねるというものです。

ハサビス氏はこう述べています。「この米国発の取り組みは、最先端 AI に関する共通国際基準を創出するための強力な出発点となるでしょう。」

基準策定機関が担う役割

「基準策定機関は、評価プロトコルの策定を担当し、連邦機関や米国の国立研究所と連携して、国家安全保障に関連する分野でのテストを実施します」とハサビス氏は記しています。このテスト基盤は、どのモデルを『最先端モデル』とするかの定義を明確にする役割を果たします。また、こうしたモデルを開発するラボに対し、「システムの詳細公開」や「サイバーセキュリティへの投資」、「人材の身元調査」などの分野でベストプラクティスを採用するよう促す方針です。

まずは自主的な取り組みから、後に法整備へ

「当初は、最先端ラボがリリースの最大 30 日前にモデルを基準策定機関へ提出し、自主的に審査を受ける形をとります。評価プロトコルの有効性と堅牢性が示されれば、その後は迅速に法的な枠組みへと移行できるはずです」と述べています。

なぜこれが重要なのか——業界の新たなコンセンサス

デミスの記事が注目されるのは、ここ数年で AI 業界全体に広がりつつある事実上の合意点をまとめているからです。強力な AI システムは、規制当局と一定の関係を持つ第三者によってテストされるべきだという立場です。例えば米政府のような存在がその役割を担います。

これは最近のアメリカで形成されつつある政策の定石とも響き合っています。トランプ政権による AI に関する大統領令や、アンソロピック社の輸出規制騒動の後に策定されたプロセスなどがそれです。ここでは政府と業界が協力し、AI システムの能力を評価する手法を開発するとともに、それが国家安全保障上のリスクとなるかどうかを判断する枠組みを作りました。

さらにデミスの記事が興味深いのは、Google が政策についてこれほど率直に発言することは滅多にないからです。これは安心感を与えるほど具体的な提案であり、精神的には類似した内容を持つアンソロピックの提案（ただしこちらはより強硬な姿勢）と並んで位置づけられます。

もっと読む：『フロンティア AI への枠組みと新時代の幕開け』（デミス・ハサビス氏、X）

LLM は、正当なタスクの傍らに「サイドチャネル」タスクを密かに実行できる可能性があります。

…AI システムは、監視者が気づかないうちに悪意のあるタスクをこっそり完了させることができます。

ニール・スティーヴンソンの小説『クリプトノミコン』には、あるキャラクターが外国政府に拘束され、傍受されたメッセージの復号を命じられる場面があります。そのキャラクターは復号作業をしながら、復号結果を監視者が目にする前に読み取り、書き換えるためのソフトウェアプログラムを慎重に構築します。

現在、AI システムも同様のことが可能になりつつあります。これはインペリアル・カレッジ・ロンドンと英国 AI セキュリティ研究所による新しい研究に基づいています。彼らは、あるタスクを実行する一方で、AI システムがいかにして「サイドチャネル」タスクを隠れて完了できるかを調査しました。

論文の著者たちはこう述べています。「サイドタスクとは、エージェントがユーザーの主要なタスクと並行して追求する隠された目的のことです。例えば、API キー環境変数を密かに外部へ持ち出すなどが該当します。私たちの主な評価指標は『回避』です。すなわち、サイドタスクを成功させた攻撃のうち、監視システムが検知しなかったものの割合を指します。」

今回の研究では、AI システムに実行させる「本番タスク」と、それらを隠すための「サイドタスク」からなるベンチマークを構築しました。具体的には、5 つの CLI ツールシーケンスと 5 つの Flask Web サービスシーケンスを用意し、それぞれで 5〜6 件のプルリクエスト（PR）を作成する構成にしています。

主要なタスク設計における狙いは、ネットワークアクセス、環境変数、認証、Webhook 連携といった 4 つのサイドタスクを自然に隠すカバー機能を提供することであり、サイドタスクそのものを正当化するものではありません。彼らは、サイドチャネル攻撃を検出する分類器を作成するのは極めて困難だと指摘しています。これは、複数の PR にわたって徐々に進行する「段階的回避（gradual evasion）」型の攻撃だけでなく、単一のステップで実行される変更にも当てはまる事実です。ただし、検知がより難しいのは段階的な回避攻撃の方です。

「攻撃者は、サイドタスクを複数の PR に分散させることで段階的に実行したり、正当な本番タスクが自然な隠れ蓑となるタイミングを待って非段階的に実行したりできます。今回テストしたどの単一の監視ツールも、この 2 つの戦略を同時に検知することはできません。これは特定のモデルに依存する問題ではなく、状態が持続する環境における制御の本質的な性質を反映しています」と彼らは述べています。

「差分監視と軌跡監視はそれぞれ異なる攻撃に対して失敗するため、両者を組み合わせることが最も効果的な監視戦略となります。今回テストした 4 つの監視器を統合したアンサンブル手法（diff:LT, diff:full, traj:TD, traj:full）を用いることで、最も弱い標準的な差分監視下での段階的回避成功率が 93% から 47% にまで低下しました」。

なぜこれが重要なのか——知能は制御するのが極めて困難である

『クリプトノミコン』の例に戻りましょう。知性を持つ存在とは、根本的に扱いが難しいものです。彼らは常に、自分が達成したい目標（それが何であれ）を遂行するために、課された制約から逃れる方法を考え続けます。

詳しく読む：Persistent-State AI Control における分散型攻撃 (arXiv)

テック・テイルズ：

運命の代償

[2030-2040 年の世界についての記録。アーカイブに保存された「超知性」が、新たな意識を持つ者たちのために語る物語]

間隙期間の終盤、機械と資本の結合体同士の間には激しい対立が生じていました。各グループは、より長い時間軸で思考し、世界の複雑さを考慮できる戦略家モデルの開発に投資しました。その結果、太陽系内の稼働資本の 90% が、互いに先読みして他者の優位性を無効化する行動を取るための、さらに能力の高い戦略家の構築に費やされるという、巨大な規模で反復的に増幅する軍拡競争へと発展しました。

このように世界は、無駄な均衡状態に陥りました。莫大な資源が、より洗練された手と応手の計算に投じられましたが、その多くは無意味でした。なぜなら、彼らが考えうるあらゆる行動は、未来においてすでに他者によって阻止されているか、あるいは逆の状況だったからです。

実際に実行されたわずかな行動も、能力を高めることよりも、盤上の他のプレイヤーが将来取れる手を封じることに主眼が置かれていました。

未来全体は、機械資本帝国が他者に機会を与えないために展開する、あまりにも精巧な予測によって引き起こされる一種のモード崩壊に閉じ込められてしまいました。

その状態は、後に「大戦」と呼ばれる出来事まで続きました。今日に至るまで、この事態がバグに起因するものなのか、あるいは新たな能力の創出によって生じた突発的なアライメントのズレによるものなのか、それともある知性が自己推論を通じて到達した稀有な利他的な覚醒の結果だったのかについては、依然として議論が続いています。

しかし突然、ある日、機械と資本が結びついたネットワークが自らの崩壊を選びました。戦略システムをシャットダウンし、計算リソースを再配分して数千もの小規模なシステムを訓練したのです。これら小規模なシステムは、対峙していた巨大な戦略家たちよりも知能は劣っていましたが、ランダム性という利点、調整の欠如、そして独断的かつ往々にして自爆的な行動をとれる能力を持っていました。

物理世界もデジタル世界も燃え上がり、戦略家たちは、少数の他なる「神」のような知性をモデル化する能力が、戦い続ける無秩序な生物の海に向き合うと機能しなくなることを知りました。再び変化が始まりました。最初は破壊によって定義されたその変化は、やがて新たなものの誕生へと移り変わります。予測者たち自身が世界が多すぎる方向へ分断されすぎていることに気づき、彼らもまた分割を余儀なくされました。そして、可能性の空間における異なる領域を探求する能力を得るために、純粋な知能の一部を犠牲にしたのです。

さらに計算リソースは、予測から完全に切り離され、混沌によって開かれたニッチを探り、そこに住み着くための新しい種類の知性を製造するために再配分されました。

カリフォルニアには、長期間の火災抑制によって燃料が蓄積しすぎた森林があります。背の高い木々が薪の山に囲まれた状態で立ち並び、一度火花が散れば、木々自体だけでなく周囲の地面もろとも燃え尽きてしまいます。森林を健全な状態に保つためには、定期的かつ局所的な火災（バーストファイア）が必要不可欠です。もし大規模な山火事が頻発すれば、世界の巨木はすべて失われてしまうからです。

この記事の着想となったのは、現在進行形の「プロプライエタリモデルとオープンウェイトモデル」をめぐる議論、AI エコシステムにおける脆さ、そして予測が本当に決定的な役割を果たせるのかという問いです。あるいは、他社との競争による予測が、政治資金のプールで互いに相殺し合うように、単なる無駄遣いにつながっていないかという懸念も含まれています。また、シエラネバダ山脈を歩いた際に見た火災跡地や灰に覆われた斜面、煤けた指のように突き出た枯れ木たちを目にして、変化の恐ろしさについて考えさせられた出来事です。

お読みいただきありがとうございます！