中国最大 AI「Kimi K3」がメモリ重視の 2.8T モデルとして登場
本文の状態
日本語全文を表示中
詳細モードで約11分の本文を読めます。
同じ出来事の情報源
この情報源を基点に整理
AI News
中国のMoonshot AIが公開した世界最大級のオープンウェイトモデル「Kimi K3」は、計算リソース制約を回避するため計算量を減らしメモリ使用量を増やす設計を採用し、業界に新たな技術的アプローチを示している。
AI深層分析を開く2026年7月28日 02:13
AI深層分析
キーポイント
2.8兆パラメータの記録的規模
Kimi K3は2.8兆パラメータを有し、これまでに公開されたオープンウェイトモデルの中で最大規模となり、業界初の「3Tクラス」に分類される。
計算からメモリへの設計転換
米国の半導体輸出規制の影響を受け、Moonshot AIは計算リソースの節約よりもメモリ使用量の最適化を優先する設計戦略を採用したと分析されている。
Mixture-of-Expertsによる効率化
モデル全体ではなく896個の専門セクションから16個のみを動的に呼び出す「Mixture-of-Experts」技術により、単語あたりの計算量を劇的に削減している。
4ビット量子化とハードウェア互換性
パラメータあたり4ビットの精度で動作するように訓練されたモデルであり、Moonshot AIはこれを広範なハードウェアとの互換性を確保するための戦略としている。
4ビット量子化によるメモリ削減とハードウェア互換性
MoonshotはK3を16ビットから4ビットへの量子化トレーニングで訓練し、モデルサイズを5.6TBから約1.4TBに削減した。これはNvidia製以外のシリコンでも動作するよう意図された戦略である。
重要な引用
K3 does not avoid the constraint so much as relocate it, trading compute for memory at almost every layer of the design.
The calculation per word drops sharply. The memory bill does not move at all, because all 2.8 trillion parameters still have to sit loaded and ready in case they are the ones called next.
Moonshot went after that bill directly. It trained K3 to work at four bits of precision per parameter instead of the usual sixteen
"for broad hardware compatibility"
編集コメントを表示
編集コメント
Moonshot AIが公開したKimi K3は、単なるパラメータ数の競争ではなく、米国の輸出規制という現実的な制約下でいかに大規模モデルを運用するかという課題に対する具体的な技術的解答を示している。この「計算からメモリへの転換」というアプローチは、リソース制約下でのAI開発における新たな設計思想として注目されるべきである。
Source Article
元記事を日本語で読む
本文に関係しない購読案内、埋め込み通知、サイト内プロモーションは除いています。
7月16日の発表以来、Moonshot AI の「Kimi K3」オープンウェイトモデルは、パラメータ数という一点でほぼすべて語られてきました。2.8 兆のパラメータ数は、これまでに公開されたオープンウェイトモデルの中で最大規模です。
モデルのサイズは通常、おおまかな階層に分類されますが、2.8 兆は業界用語で「3T クラス」と呼ばれる領域に属します。これは、これまでオープンに利用可能なモデルが到達したことがない新たな段階です。
imageMoonshot のフラッグシップモデルは、単に 1 兆をわずかに超える規模から一気に 2.8 兆へと跳躍し、DeepSeek の 1.6T V4 Pro を大きく引き離しました。パラメータ数は K3 の最も注目される部分ですが、その一方で、このモデルが実際にどのように動作しているかについては、あまり何も語っていません。
自然な結論として、「Moonshot は米国の計算資源制限を回避する工夫をした」と考えがちです。しかし、同社の技術ブログが示唆するのは、より具体的な事実です。K3 は制限を「回避」したのではなく、単にその制約の場所を「移動」させただけなのです。設計上のほぼすべての層で、計算資源(compute)とメモリ容量(memory)をトレードオフしています。
このトレードオフを理解することは重要です。なぜなら、計算資源とメモリは互換性のある制約ではなく、中国の研究機関にとってその利用可能性も等しくはないからです。
Kimi K3 の紹介:オープンフロンティア・インテリジェンス
image 2.8 兆パラメータ、100 万トークンのコンテキスト、ネイティブなマルチモーダル対応
image Kimi Delta Attention により、100 万トークン規模の文脈でもデコード速度が最大 6.3 倍に向上
image アテンション・リジデュアルズにより、トレーニング効率が約 25% 向上(追加コストは 2% 未満)pic.twitter.com/eFHEbdxn3P
— Kimi.ai (@Kimi_Moonshot) 2026 年 7 月 16 日
なぜ Kimi K3 オープンウェイトモデルは「メモリ」の問題なのか
大規模モデルを運用するコストを決める要素は、大きく分けて二つあります。一つは単語を生成する際に機械がどれだけ計算を行うか(これは「計算量」、つまりコンピュートに該当します)。もう一つは、動作中ずっと常時保持され、即座にアクセス可能な状態にあるモデルの容量です(これは「メモリ」の問題です)。
かつてチップ輸出規制により中国は大きな打撃を受けましたが、Moonshot の設計思想は、この計算資源をいかに節約するかという持続的な試みと捉えることができます。
その主たる手法が「エキスパート混合(Mixture-of-Experts)」と呼ばれる技術です。K3 は単語生成ごとにモデル全体を実行するのではなく、896 個の専門化されたセクションに分割し、一度に必要となる 16 のセクションのみを呼び出します。これは全体の約 1.8% に相当します。これにより、単語あたりの計算量は劇的に減少しました。
しかし、メモリにかかるコストは変わりません。なぜなら、2.8 兆パラメータすべてが、次に呼ばれる可能性に備えて常にロードされた状態で待機している必要があるからです。
Moonshot はその課題に真っ向から取り組んだ。K3 では、通常の 16 ビットではなくパラメータあたり 4 ビットの精度で動作するように訓練した。この手法は「量子化対応トレーニング(quantisation-aware training)」と呼ばれ、同社は微調整段階からこれを適用し、「幅広いハードウェアとの互換性」を目的に選んだと説明している。この表現には注意が必要だ。これは NVIDIA 製以外のシリコン上での動作に対する保険ともとれるからだ。
その節約効果は甚大だ。リリース後の独立分析によると、この形式のモデルサイズは約 1.4TB に抑えられている。一方、フル精度で動作させる場合に必要な容量は 5.6TB に達する。
2 つ目の変更点である「Kimi Delta Attention」は、異なるメモリコストの問題に焦点を当てている。モデルが非常に長いドキュメントを処理する際、既読のすべての内容を蓄積し続ける。K3 が公称する 100 万トークン(数千ページ相当)という限界において、重要なのはモデル自体ではなく、この蓄積された記憶領域だ。
Moonshot はここでの商業的意義について、異例なほど率直に語っている。同社はキャッシュ機能のコードをオープンソースの推論プロジェクト「vLLM」へ提供し、この組み合わせこそが、モデルの規模が大きいためにも K3 を競争力のある価格で提供できる理由だと説明している。Moonshot は、K3 を 64 基以上のアクセラレータに分散させ、それらを十分に密接に接続して単一のプールとして振る舞わせることを推奨している。
これは Huawei の CloudMatrix システムと同じアプローチであり、真の解決策が何を示唆しているかを浮き彫りにする。メモリは、個々の性能には目立たない多数のチップから集積することが可能だ。しかし、トレーニング用の計算資源を同じように組み上げることはできない。
このプーリング処理が中国製半導体上で行われているかどうかは、ブログ記事では明言されていません。Moonshot 社のチップレベルでのテストは、Nvidia H200S と、「代替ベンダー製の GPGPU」という曖昧な表現でしか記されていない製品(メーカー名を伏せています)上で実施されました。その他の結果は、輸出規制により中国向けに販売されている低スペック版の Nvidia L20 でベンチマークされています。
ブログ記事では H200 ハードウェアがどこに設置されているかについても触れていません。また、米下院は 1 月、中国企業が遠隔で制限されたアクセラレータを利用できる抜け穴を塞ぐ法案を可決しました。これらが重要視される理由は、中国の半導体産業において、処理能力よりもメモリ技術の方が最も遅れをとっているからです。
2025 年 8 月の貿易交渉において、北京はリソグラフィ装置や TSMC へのアクセスではなく、高帯域幅メモリの規制緩和を求めました。これは当局者が実際にボトルネックとなっていると認識していることの明確な表れです。国内のメモリ生産量は今年、約 200 万スタックに達すると予測されており、これは Huawei Ascend 910C クラスのチップで換算すれば約 25 万〜30 万個分に相当します。一方、SMIC のウェーハ製造能力は 100 万枚以上を確保しています。
企業が実際に導入できるもの
この地域の企業にとって、重要なのは K3 がリーダーボードで上位を争うかどうかではなく、この規模のオープンウェイトモデルが実際に導入可能かどうかという点です。アジアの企業がオープンウェイトモデルを求める背景には、主に 3 つの理由があります。それはコスト、データの主権、そして地域言語への対応です。東南アジアの銀行や保険会社は、記録を自社のシステム外に出さないために、特にセルフホスト型のオープンモデルの実証実験を進めています。
モデルのウェイト(重み)は 7 月 27 日に公開され、ハードウェアコストを負担できる組織であれば、誰でもダウンロードして修正し、自社のネットワーク内で K3 を実行することが可能になります。ただし、実際にどれだけの企業がそれを実現できるかが問われます。Moonshot は、このモデルを単一のプールとして機能させるために、64 基以上のアクセラレータを接続して運用することを推奨しています。また、独立した分析によると、ウェイトデータ自体が約 1.4TB に達し、さらに長文のドキュメント処理に必要なメモリ容量を加味すると、その規模はさらに膨らみます。
これはサーバー室レベルの要件ではなく、データセンター全体のコミットメントを意味します。多くの企業にとって現実的な選択肢は、設備を所有するのではなく専用リソースを借りることになります。これでもデータを国内に留め、契約管理下に置くことができるため、地域の規制当局が求める要件には対応できます。しかし、オープンウェイトモデルの導入を検討した多くの人々が期待していた「インフラプロバイダーからの独立性」は、この方法では得られません。
ソフトウェアの準備もまだ整っていません。K3 のアーキテクチャにおける 2 つの主要な変更点は新しすぎて、モデルを実行するための標準的なオープンソースツールはまだ対応していません。Moonshot 社はリリース前に技術的な詳細を調整するため、推論パートナーやオープンソースのメンテナと連携しているとのことです。自社でホストする展開を検討しているチームは、「発表日」と「実際に使えるようになる日」を別物として捉える必要があります。
価格設定も変更されました。K3 の料金は、入力トークン 100 万あたり 3 ドルですが、直近でその入力を見たことがある場合は 0.30 ドルに下がります。一方、出力トークン 100 万あたりは 15 ドルです。これは Fable 5 の出力料 50 ドルよりはるかに安いものの、z.ai の GLM-5.2(4.40 ドル)や DeepSeek V4(0.87 ドル)とは比較にならないほど高い価格帯です。K3 はもはや、前身モデルが占めていた低予算層には属していません。
また、現時点では「最大推論努力」モードのみでの提供となり、他の低負荷モードは後日追加される予定です。そのため、長い推論チェーンや再試行ステップが発生するとコストがすぐに膨らみます。企業は単価リストではなく、「タスク完了時の総コスト」を予算化する必要があります。
何が主張され、何が検証されたのか
Tom's Hardware の報道によると、Arena が実施したフロントエンドコード評価において、K3 は盲検テストで 1,679 ポイントを獲得し、Fable 5 を上回って首位となりました。この結果は事実です。ただし、これは特定のドメインにおけるベンチマークに過ぎません。
Moonshot の発表は、見出しほど過剰ではありません。同社は K3 の全体的な性能がまだ Claude 5 や GPT-5.6 Sol に及ばないと明言し、以下の 3 つの課題を挙げています。
まず、過去の思考プロセスに関する情報が正しく返されない場合、生成品質が著しく不安定になる恐れがある点。次に、ユーザーの意図が曖昧な場合に、モデルが勝手に判断を下してしまうリスクです。そして何より、Claude 5 や GPT-5.6 Sol と比較すると、ユーザー体験に明確な差が生じていることが指摘されています。
同社の注釈には、Moonshot が実施した SWE Marathon の評価において、Claude 5 がタスクの 35% でフォールバック(代替手段への切り替え)を起こしており、これが同モデルの評価スコアに影響を与えた可能性も示唆されています。それ以外の数値はすべて Moonshot 側の主張であり、重み(ウェイト)が公開されるまで、K3 の数値を独立して検証することはできません。
バンク・オブ・アメリカのアレックス・リウ氏率いるアナリストチームは、計算資源の制約がある中でも、大規模な事前学習とアーキテクチャの工夫を組み合わせれば、中国のフラッグシップモデルでも劇的な性能向上が可能だと指摘しています。これはやや控えめな表現ですが、ブログ記事の内容とも合致する、より現実的な見方です。
方向性自体に異論はありません。Vercel の本番環境ゲートウェイを通過するトークンのうち、オープンウェイトモデルが占める割合は 6 月に 29% に達し、4 月の約 1/9 から増加しました。一方で、コストに占める割合は 4% 未満です。7 月 27 日までに、K3 がこの「オープンウェイト」のカテゴリーにどれほど貢献できるかが明らかになります。

関連記事
今日のまとめ
AIデイリーブリーフで今日の重要ニュースをまとめ読み