中国最大 AI「Kimi K3」がメモリ重視の 2.8T モデルとして登場
Moonshot AI は、米国の計算資源規制を回避するため、計算量よりもメモリ容量への依存を高める設計を採用した世界最大級のオープンウェイトモデル「Kimi K3」を発表し、業界のアーキテクチャ戦略に新たな転換点をもたらした。
キーポイント
2.8兆パラメータの世界新記録
Kimi K3 は2.8兆パラメータを有し、これまでに公開されたオープンウェイトモデルの中で最大規模となり、1.6TのDeepSeek V4 Proを大幅に上回る。
計算資源からメモリへの戦略的転換
米国の半導体輸出規制という制約下で、計算量（compute）を減らす代わりに全パラメータを常時メモリ上に保持する設計へシフトし、ハードウェアのボトルネックを再定義した。
MoE と量子化による効率化
896個のエクスパートから16個のみを選択する混合専門家（MoE）アーキテクチャと、4ビット精度への量子化学習を組み合わせ、計算コストを削減しつつメモリ要件は維持している。
100万トークンのコンテキスト処理
Kimi Delta Attention 技術により、100万トークンという超長文脈での推論速度を最大6.3倍向上させ、実用性を高めている。
四ビット量子化によるメモリ削減
Kimi K3 はパラメータあたり4ビットの精度（量子化学習）を採用し、フル精度時の5.6TBから1.4TBへ大幅なメモリ削減を実現した。
中国の半導体戦略は「メモリ」に集中
処理能力よりも高帯域幅メモリの輸出規制がボトルネックとなっており、中国政府もリソグラフィ装置ではなくメモリ制限の緩和を求めている。
複数チップによるメモリプーリング戦略
個々のチップ性能に頼らず、64枚以上のアクセラレータを結合してメモリプール化することで大規模モデルの実装を可能にするアプローチを採用している。
重要な引用
Moonshot's design reads as a sustained attempt to spend less of it.
K3 does not avoid the constraint so much as relocate it, trading compute for memory at almost every layer of the design.
The calculation per word drops sharply. The memory bill does not move at all.
"Memory can be gathered up across a large number of individually unremarkable chips. Training-grade compute cannot be assembled the same way."
"Beijing asked for relief on high-bandwidth memory restrictions rather than on lithography tools or TSMC access"
For most enterprises, the practical outcome is renting dedicated capacity rather than owning it.
影響分析・編集コメントを表示
影響分析
この発表は、中国のAI開発が米国のハードウェア制約に直面しても、アーキテクチャ設計の革新（計算からメモリへの転換）によって競争力を維持・向上させることを示す決定的な事例となった。業界全体において、単なるパラメータ数の競合だけでなく、リソース制約下での最適化戦略が次世代モデル開発の鍵となることを浮き彫りにしている。
編集コメント
Kimi K3 の発表は、単なるパラメータ数の拡大を超え、地政学的な制約下でいかにして大規模モデルを現実的なコストで運用するかという、業界全体が直面する課題に対する具体的な解決策の提示と言えます。計算資源の不足をメモリ容量の増強とアーキテクチャ最適化で補うこのアプローチは、今後他の開発者にとっても重要な参考事例となるでしょう。
7月16日の発表以来、Moonshot AI の「Kimi K3」オープンウェイトモデルは、パラメータ数という一点でほぼすべて語られてきました。2.8 兆のパラメータ数は、これまでに公開されたオープンウェイトモデルの中で最大規模です。
モデルのサイズは通常、おおまかな階層に分類されますが、2.8 兆は業界用語で「3T クラス」と呼ばれる領域に属します。これは、これまでオープンに利用可能なモデルが到達したことがない新たな段階です。
imageMoonshot のフラッグシップモデルは、単に 1 兆をわずかに超える規模から一気に 2.8 兆へと跳躍し、DeepSeek の 1.6T V4 Pro を大きく引き離しました。パラメータ数は K3 の最も注目される部分ですが、その一方で、このモデルが実際にどのように動作しているかについては、あまり何も語っていません。
自然な結論として、「Moonshot は米国の計算資源制限を回避する工夫をした」と考えがちです。しかし、同社の技術ブログが示唆するのは、より具体的な事実です。K3 は制限を「回避」したのではなく、単にその制約の場所を「移動」させただけなのです。設計上のほぼすべての層で、計算資源（compute）とメモリ容量（memory）をトレードオフしています。
このトレードオフを理解することは重要です。なぜなら、計算資源とメモリは互換性のある制約ではなく、中国の研究機関にとってその利用可能性も等しくはないからです。
Kimi K3 の紹介：オープンフロンティア・インテリジェンス
image 2.8 兆パラメータ、100 万トークンのコンテキスト、ネイティブなマルチモーダル対応
image Kimi Delta Attention により、100 万トークン規模の文脈でもデコード速度が最大 6.3 倍に向上
image アテンション・リジデュアルズにより、トレーニング効率が約 25% 向上（追加コストは 2% 未満）pic.twitter.com/eFHEbdxn3P
— Kimi.ai (@Kimi_Moonshot) 2026 年 7 月 16 日
なぜ Kimi K3 オープンウェイトモデルは「メモリ」の問題なのか
大規模モデルを運用するコストを決める要素は、大きく分けて二つあります。一つは単語を生成する際に機械がどれだけ計算を行うか（これは「計算量」、つまりコンピュートに該当します）。もう一つは、動作中ずっと常時保持され、即座にアクセス可能な状態にあるモデルの容量です（これは「メモリ」の問題です）。
かつてチップ輸出規制により中国は大きな打撃を受けましたが、Moonshot の設計思想は、この計算資源をいかに節約するかという持続的な試みと捉えることができます。
その主たる手法が「エキスパート混合（Mixture-of-Experts）」と呼ばれる技術です。K3 は単語生成ごとにモデル全体を実行するのではなく、896 個の専門化されたセクションに分割し、一度に必要となる 16 のセクションのみを呼び出します。これは全体の約 1.8% に相当します。これにより、単語あたりの計算量は劇的に減少しました。
しかし、メモリにかかるコストは変わりません。なぜなら、2.8 兆パラメータすべてが、次に呼ばれる可能性に備えて常にロードされた状態で待機している必要があるからです。
Moonshot はその課題に真っ向から取り組んだ。K3 では、通常の 16 ビットではなくパラメータあたり 4 ビットの精度で動作するように訓練した。この手法は「量子化対応トレーニング（quantisation-aware training）」と呼ばれ、同社は微調整段階からこれを適用し、「幅広いハードウェアとの互換性」を目的に選んだと説明している。この表現には注意が必要だ。これは NVIDIA 製以外のシリコン上での動作に対する保険ともとれるからだ。
その節約効果は甚大だ。リリース後の独立分析によると、この形式のモデルサイズは約 1.4TB に抑えられている。一方、フル精度で動作させる場合に必要な容量は 5.6TB に達する。
2 つ目の変更点である「Kimi Delta Attention」は、異なるメモリコストの問題に焦点を当てている。モデルが非常に長いドキュメントを処理する際、既読のすべての内容を蓄積し続ける。K3 が公称する 100 万トークン（数千ページ相当）という限界において、重要なのはモデル自体ではなく、この蓄積された記憶領域だ。
Moonshot はここでの商業的意義について、異例なほど率直に語っている。同社はキャッシュ機能のコードをオープンソースの推論プロジェクト「vLLM」へ提供し、この組み合わせこそが、モデルの規模が大きいためにも K3 を競争力のある価格で提供できる理由だと説明している。Moonshot は、K3 を 64 基以上のアクセラレータに分散させ、それらを十分に密接に接続して単一のプールとして振る舞わせることを推奨している。
これは Huawei の CloudMatrix システムと同じアプローチであり、真の解決策が何を示唆しているかを浮き彫りにする。メモリは、個々の性能には目立たない多数のチップから集積することが可能だ。しかし、トレーニング用の計算資源を同じように組み上げることはできない。
このプーリング処理が中国製半導体上で行われているかどうかは、ブログ記事では明言されていません。Moonshot 社のチップレベルでのテストは、Nvidia H200S と、「代替ベンダー製の GPGPU」という曖昧な表現でしか記されていない製品（メーカー名を伏せています）上で実施されました。その他の結果は、輸出規制により中国向けに販売されている低スペック版の Nvidia L20 でベンチマークされています。
ブログ記事では H200 ハードウェアがどこに設置されているかについても触れていません。また、米下院は 1 月、中国企業が遠隔で制限されたアクセラレータを利用できる抜け穴を塞ぐ法案を可決しました。これらが重要視される理由は、中国の半導体産業において、処理能力よりもメモリ技術の方が最も遅れをとっているからです。
2025 年 8 月の貿易交渉において、北京はリソグラフィ装置や TSMC へのアクセスではなく、高帯域幅メモリの規制緩和を求めました。これは当局者が実際にボトルネックとなっていると認識していることの明確な表れです。国内のメモリ生産量は今年、約 200 万スタックに達すると予測されており、これは Huawei Ascend 910C クラスのチップで換算すれば約 25 万〜30 万個分に相当します。一方、SMIC のウェーハ製造能力は 100 万枚以上を確保しています。
企業が実際に導入できるもの
この地域の企業にとって、重要なのは K3 がリーダーボードで上位を争うかどうかではなく、この規模のオープンウェイトモデルが実際に導入可能かどうかという点です。アジアの企業がオープンウェイトモデルを求める背景には、主に 3 つの理由があります。それはコスト、データの主権、そして地域言語への対応です。東南アジアの銀行や保険会社は、記録を自社のシステム外に出さないために、特にセルフホスト型のオープンモデルの実証実験を進めています。
モデルのウェイト（重み）は 7 月 27 日に公開され、ハードウェアコストを負担できる組織であれば、誰でもダウンロードして修正し、自社のネットワーク内で K3 を実行することが可能になります。ただし、実際にどれだけの企業がそれを実現できるかが問われます。Moonshot は、このモデルを単一のプールとして機能させるために、64 基以上のアクセラレータを接続して運用することを推奨しています。また、独立した分析によると、ウェイトデータ自体が約 1.4TB に達し、さらに長文のドキュメント処理に必要なメモリ容量を加味すると、その規模はさらに膨らみます。
これはサーバー室レベルの要件ではなく、データセンター全体のコミットメントを意味します。多くの企業にとって現実的な選択肢は、設備を所有するのではなく専用リソースを借りることになります。これでもデータを国内に留め、契約管理下に置くことができるため、地域の規制当局が求める要件には対応できます。しかし、オープンウェイトモデルの導入を検討した多くの人々が期待していた「インフラプロバイダーからの独立性」は、この方法では得られません。
ソフトウェアの準備もまだ整っていません。K3 のアーキテクチャにおける 2 つの主要な変更点は新しすぎて、モデルを実行するための標準的なオープンソースツールはまだ対応していません。Moonshot 社はリリース前に技術的な詳細を調整するため、推論パートナーやオープンソースのメンテナと連携しているとのことです。自社でホストする展開を検討しているチームは、「発表日」と「実際に使えるようになる日」を別物として捉える必要があります。
価格設定も変更されました。K3 の料金は、入力トークン 100 万あたり 3 ドルですが、直近でその入力を見たことがある場合は 0.30 ドルに下がります。一方、出力トークン 100 万あたりは 15 ドルです。これは Fable 5 の出力料 50 ドルよりはるかに安いものの、z.ai の GLM-5.2（4.40 ドル）や DeepSeek V4（0.87 ドル）とは比較にならないほど高い価格帯です。K3 はもはや、前身モデルが占めていた低予算層には属していません。
また、現時点では「最大推論努力」モードのみでの提供となり、他の低負荷モードは後日追加される予定です。そのため、長い推論チェーンや再試行ステップが発生するとコストがすぐに膨らみます。企業は単価リストではなく、「タスク完了時の総コスト」を予算化する必要があります。
何が主張され、何が検証されたのか
Tom's Hardware の報道によると、Arena が実施したフロントエンドコード評価において、K3 は盲検テストで 1,679 ポイントを獲得し、Fable 5 を上回って首位となりました。この結果は事実です。ただし、これは特定のドメインにおけるベンチマークに過ぎません。
Moonshot の発表は、見出しほど過剰ではありません。同社は K3 の全体的な性能がまだ Claude 5 や GPT-5.6 Sol に及ばないと明言し、以下の 3 つの課題を挙げています。
まず、過去の思考プロセスに関する情報が正しく返されない場合、生成品質が著しく不安定になる恐れがある点。次に、ユーザーの意図が曖昧な場合に、モデルが勝手に判断を下してしまうリスクです。そして何より、Claude 5 や GPT-5.6 Sol と比較すると、ユーザー体験に明確な差が生じていることが指摘されています。
同社の注釈には、Moonshot が実施した SWE Marathon の評価において、Claude 5 がタスクの 35% でフォールバック（代替手段への切り替え）を起こしており、これが同モデルの評価スコアに影響を与えた可能性も示唆されています。それ以外の数値はすべて Moonshot 側の主張であり、重み（ウェイト）が公開されるまで、K3 の数値を独立して検証することはできません。
バンク・オブ・アメリカのアレックス・リウ氏率いるアナリストチームは、計算資源の制約がある中でも、大規模な事前学習とアーキテクチャの工夫を組み合わせれば、中国のフラッグシップモデルでも劇的な性能向上が可能だと指摘しています。これはやや控えめな表現ですが、ブログ記事の内容とも合致する、より現実的な見方です。
方向性自体に異論はありません。Vercel の本番環境ゲートウェイを通過するトークンのうち、オープンウェイトモデルが占める割合は 6 月に 29% に達し、4 月の約 1/9 から増加しました。一方で、コストに占める割合は 4% 未満です。7 月 27 日までに、K3 がこの「オープンウェイト」のカテゴリーにどれほど貢献できるかが明らかになります。
AI やビッグデータについて業界のリーダーから学びたい方は、アムステルダム、カリフォルニア、ロンドンで開催される「AI & Big Data Expo」をチェックしてください。この包括的なイベントは TechEx の一部であり、サイバーセキュリティ＆クラウドエキスポなど他の主要なテクノロジーイベントと併催されます。詳細はこちらをご覧ください。
AI News は TechForge Media によって運営されています。その他の今後のエンタープライズ向け技術イベントやウェビナーはこちらからご覧ください。
本記事「Kimi K3 オープンウェイトモデル：中国最大の AI が計算資源ではなくメモリに賭ける」は、AI News に掲載されたものです。
原文を表示
Moonshot AI’s Kimi K3 open-weight model has been read almost entirely through its parameter count since it launchedon July 16. At 2.8 trillion parameters, it is the largest open-weight model released to date. Model sizes are usually grouped into rough brackets, and 2.8 trillion rounds into what the industry calls the 3T class. A tier no openly available model had entered before.
imageMoonshot’s flagship jumps from just over 1T to 2.8T in a single release, clearing DeepSeek’s 1.6T V4 Pro by a wide margin. The parameter count is the part of K3 that has drawn the most attention — and explains the least about how it runs. Source: Kimi
The natural conclusion is that Moonshot has engineered its way around US compute restrictions. The company’s own technical blog suggests something more specific: K3 does not avoid the constraint so much as relocate it, trading compute for memory at almost every layer of the design.
That trade is worth understanding, because compute and memory are not interchangeable constraints, and they are not equally available to a Chinese lab.
Introducing Kimi K3: Open Frontier Intelligence
image 2.8 Trillion Parameters, 1 Million Context, Native Multimodal
image Kimi Delta Attention enables up to 6.3x faster decoding in million-token contexts
image Attention Residuals deliver ~25% higher training efficiency at <2% additional… pic.twitter.com/eFHEbdxn3P
— Kimi.ai (@Kimi_Moonshot) July 16, 2026
Why the Kimi K3 open-weight model is a memory problem
Two different things determine what it costs to run a large model. One is how much calculation the machine does to produce each word. The other is how much of the model has to be held ready and instantly reachable the entire time it is working. The first is compute. The second is memory. Chip export controls have squeezed China hard at first, and Moonshot’s design reads as a sustained attempt to spend less of it.
The main move is a technique called mixture-of-experts. Rather than run the whole model for every word, K3 splits itself into 896 specialised sections and calls on just 16 of them at a time, about 1.8% of the total. The calculation per word drops sharply. The memory bill does not move at all, because all 2.8 trillion parameters still have to sit loaded and ready in case they are the ones called next.
So Moonshot went after that bill directly. It trained K3 to work at four bits of precision per parameter instead of the usual sixteen, a method known as quantisation-aware training, which the company applied from the fine-tuning stage onward and says it chose “for broad hardware compatibility”, a phrase worth pausing on, since it reads as a hedge against running on silicon that is not Nvidia’s. The savings are substantial. Independent analysis of the release puts the model at roughly 1.4TB in that format, against the 5.6TB it would need at full precision.
The second change, Kimi Delta Attention, targets a different memory cost. As a model works through a very long document, it accumulates a running store of everything it has already read. At K3’s advertised limit of a million tokens, a few thousand pages, that store, not the model itself, becomes the biggest thing in memory.
Moonshot is unusually direct about the commercial stake here. It contributed caching code to the open-source serving project vLLM, and says this combination is what lets it price K3 competitively despite the model’s size. Moonshot recommends running K3 across 64 or more accelerators wired together closely enough to behave as one pool.
That is the same approach behind Huawei’s CloudMatrix systems, and it points to what the real workaround is. Memory can be gathered up across a large number of individually unremarkable chips. Training-grade compute cannot be assembled the same way.
Whether that pooling happens on Chinese silicon is a question the blog does not answer. Moonshot’s chip-level tests ran on Nvidia H200S and on what it describes only as a “GPGPU from an alternative vendor,” which it declines to name. Other results are benchmarked on an Nvidia L20, the cut-down card sold into China under export rules.
The blog does not say where the H200 hardware sits, and the US House passed a bill in January to close the offshore cloud rental loophole that had let Chinese firms reach restricted accelerators remotely. The reason any of this matters is that memory, not processing power, is where China’s own chip industry is furthest behind.
In trade talks in August 2025, Beijing asked for relief on high-bandwidth memory restrictions rather than on lithography tools or TSMC access, a fair signal of what officials think is actually binding. Domestic output of that memory is projected at around two million stacks this year, enough for roughly 250,000 to 300,000 Huawei Ascend 910C-class chips, while SMIC has wafer capacity for more than a million.
What enterprises can actually deploy
For businesses in this region, the practical question is not whether K3 tops a leaderboard. It is whether an open-weight model at this size is deployable at all. Asian enterprises reach for open weights for three reasons–price, data sovereignty and regional-language coverage–and banks and insurers across Southeast Asia have been piloting self-hosted open models specifically so records never leave their own systems.
The weights land on July 27, and any organisation that can afford the hardware will be free to download, modify and run K3 inside its own walls. The question is how many can. Moonshot recommends serving the model across 64 or more accelerators wired together as a single pool, and the weights alone come to roughly 1.4TB in the format it ships in, based on independent analysis, before the memory needed to work through a long document.
That is a data-centre commitment, not a server-room one. For most enterprises, the practical outcome is renting dedicated capacity rather than owning it. That still keeps data in-country and under contract, which is what most regional regulators are asking for. What it does not deliver is the independence from infrastructure providers that drew many of these buyers to open weights in the first place.
The software is not ready either. K3’s two main architectural changes are new enough that the standard open-source tools for running models do not yet support them, and Moonshot says it is working with inference partners and open-source maintainers to align technical details before release. Teams planning a self-hosted deployment should treat the launch date and the usable date as different things.
The price has also moved. K3 costs $3 per million input tokens, dropping to $0.30 when the model has recently seen that input, and $15 per million output tokens. That is well under Fable 5’s $50 for output, but far above z.ai’s GLM-5.2 at $4.40 and DeepSeek V4 at $0.87. K3 is no longer in the budget tier its predecessors occupied.
It also launches with maximum reasoning effort as the only setting, with lower modes to follow, so long reasoning chains and retried steps add up quickly. Companies should budget on the cost of a completed task, not the list price.
What is claimed, and what is verified
Arena placed K3 first in its Frontend Code evaluation at 1,679 points, ahead of Fable 5, in blind developer testing, as reported by Tom’s Hardware. That result is real. It is also a benchmark in one domain.
Moonshot itself is more restrained than its headlines. The company states that K3’s overall performance still trails Claude Fable 5 and GPT 5.6 Sol, and lists three limitations: generation quality can become highly unstable if a harness fails to pass back historical thinking content, the model may make unexpected decisions on a user’s behalf when intent is ambiguous, and it shows a noticeable user-experience gap against Fable 5 and GPT 5.6 Sol.
Its own footnotes also disclose that Fable 5 hit fallbacks on 35% of the tasks in Moonshot’s SWE Marathon evaluation, which may have affected that model’s measured score. Everything else remains a first-party claim. No published K3 number can be independently verified until the weights are public.
Bank of America analysts led by Alex Liu said in a note that K3 shows large-scale pre-training combined with architectural work can still deliver step-change gains for flagship Chinese models despite compute constraints, which is the sober version of the argument, and closer to what the blog supports.
The direction of travel is not in dispute. Open-weight models handled 29% of all tokens routed through Vercel’s production gateway in June, up from about a ninth of volume in April, while accounting for under 4% of spending. July 27 is when we find out how much of K3 belongs in that column.
Want to learn more about AI and big data from industry leaders? Check out AI & Big Data Expo taking place in Amsterdam, California, and London. The comprehensive event is part of TechEx and is co-located with other leading technology events including the Cyber Security & Cloud Expo. Click here for more information.
AI News is powered by TechForge Media. Explore other upcoming enterprise technology events and webinars here.
The post Kimi K3 open-weight model: China’s biggest AI is a bet on memory, not compute appeared first on AI News.
関連記事
今日のまとめ
AI日報で今日の重要ニュースをまとめ読み