Moonshot が超大規模モデル「Kimi K3」を発表

本日、当社で最も能力の高いモデル「Kimi K3」をご紹介します。Kimi K3 は、当社独自の「Kimi Delta Attention」と「Attention Residuals」を基盤に構築され、ネイティブな視覚機能と 100 万トークンという超長文コンテキストウィンドウを備えた、2.8T パラメータのモデルです。これは世界初のオープン化された 3T クラスのモデルであり、長期にわたるコーディング、知識作業、推論といった最先端の知能タスクに対応するために設計されています。

全体的な性能においては、依然として Claude Fable 5 や GPT 5.6 Sol といった最強のクローズドモデルには及ばないものの、Kimi K3 は当社の評価スイートにおいて最先端レベルのパフォーマンスを発揮し、テストされた他のモデルを常に上回る結果を示しました。

Kimi K3 は本日より、Kimi.com、Kimi Work、Kimi Code、および Kimi API で利用可能です。リリース当初はデフォルトで最大限の思考努力（max thinking effort）が適用され、低・高効率モードについては今後のアップデートで順次導入される予定です。現在、推論パートナーやオープンソースのメンテナーと緊密に連携し、技術仕様の整合性を図りながらエコシステム全体での安定した展開を進めています。モデルの重み（weights）は 2026 年 7 月 27 日までに公開されます。アーキテクチャ、トレーニング手法、評価結果の詳細については、Kimi K3 の公式技術レポートと併せて発表いたします。

オープン化された 3T クラスのモデル

Kimi K3 は、2.8 トリオンパラメータを達成した初のオープンモデルです。これは Kimi がスケーリングの最前線に注力し続けてきた最新の一歩であり、過去 12 ヶ月のうち 9 ヶ月で Kimi モデルがオープンモデルのサイズ上限を更新し続けてきました。

Kimi K3 は、情報フローをシーケンス長とモデル深さ全体で最適化するために設計された 2 つのアーキテクチャ改良である「Kimi Delta Attention (KDA)」と「Attention Residuals (AttnRes)」を基盤としています。さらに、Mixture of Experts (MoE) のスパース性を強化し、Stable LatentMoE フレームワークと組み合わせることで、896 個のエキスパートのうち 16 個を有効に活用します。これら構造上の改良に加え、トレーニング手法やデータレシピも洗練された結果、Kimi K2 と比較してスケーリング効率が約 2.5 倍向上しました。そのおかげで、計算リソースをより効果的に知能へと変換できるようになっています。

αwKDAαwStable LatentMoEαwGated MLAαwStable LatentMoEwα3×1×Block n−1Block n−2Block n−3EmbeddingRouterLinear12123NNormLinearShared ExpertRouted ExpertLinearConvL2LinearConvL2LinearConvσσLinearσKimi Delta AttentionNormLinearOutputKimi K3 architecture: the Stable LatentMoE and KDA modules (left), the AttnRes operation α (top right), and the Block Attention Residuals backbone (right).

コーディング

Kimi K3 は、長期にわたるコーディングタスクにおいても強力なパフォーマンスを発揮します。人間の監視を最小限に抑えながら、長時間のエンジニアリングセッションを継続し、巨大なリポジトリを自在にナビゲートし、ターミナルツールを統括して操作できます。

Kimi K3 は、ソフトウェアエンジニアリングと視覚推論を融合したタスクにおいても卓越した能力を発揮します。スクリーンショットや画像情報を活用して、ゲーム開発、フロントエンド実装、CAD 設計の最適化を支援します。

以下の事例では、Kimi K3 のコーディング能力がどのようにオープンエンドなソフトウェア作成や科学研究に活かされているかを示しています。

カーネル最適化

各モデルを独立した同一のサンドボックス環境でテストし、GPU カーネルの最適化能力を検証しました。AttnRes、KDA、および 512 ヘッド次元の MLA カーネルなど 4 つのタスクについて、最大 24 時間かけてプロファイリング、書き換え、ベンチマークを行いました。対象ハードウェアは NVIDIA H200 と、他社製の GPGPU です。

その結果、Kimi K3 は Fable 5（フォールバック機能あり）と互角の性能を示し、Opus 4.8、GPT 5.6 Sol、GPT 5.5 を大きく上回りました。

Claude の Fable 5 は第三者機関が評価したものであり、その結果にはフォールバック動作が含まれている可能性があります。対象モデルの多くで、数値的な許容範囲内に収まる小さな精度を犠牲にする短絡的な処理が見られるケースもありました。なお、GPGPU とはグラフィック描画以外の計算処理に用いられる汎用 GPU を指します。

Kimi K3 の開発後期には、その初期バージョンがチームのカーネル最適化作業の大部分を担っていました。

GPU コンパイラ開発

さらに、Kimi K3 がゼロから GPU プログラミングシステムを構築できるか検証しました。その結果、Kimi K3 は「MiniTriton」という独自の実装を開発しました。これは MLIR 上にタイルレベルの IR レイヤーを持ち、最適化パスと PTX コード生成パイプラインを備えた、コンパクトな Triton 互換コンパイラです。

サポートされているルーフラインベンチマークでは、MiniTriton は Triton や torch.compile と同等かそれ以上の性能を発揮し、特定のワークロードでは Triton を上回る結果となりました。マイクロベンチマークを超えて、NanoGPT のトレーニング全体でも安定した収束を示しました。損失曲線は参照値とほぼ同じ軌跡をたどり、わずかな乖離のみが見られる程度です。これは、現実的なワークロードにおいてフルパイプラインが正しく機能していることを裏付ける結果です。

これらの成果は、Kimi K3 が個別のカーネルではなく、DSL フロントエンドから IR パス、PTX コード生成、そしてランタイムに至るまで一貫したエンドツーエンドのコンパイラを構築できる能力を持っていることを示しています。特に、ゼロから実装された Tensor Core 用パスは、すでに Triton の広範に最適化されたスタックと互角の性能を誇ります。

ゲーム開発とデジタルクリエイション

Kimi K3 は、強力な 3D 推論能力、コーディングスキル、そしてビジョン機能を組み合わせることで、コンセプトや画像、動画から完全にプレイ可能なインタラクティブな体験へと変換します。コードとライブスクリーンショットの間をシームレスに反復処理し、出力を即座に確認して改善できる「Vision in the Loop」を実現しています。

チップ設計

Kimi K3 の初期概念実証の一例として、同社の独自アーキテクチャを基盤とするナノモデル向けにチップ設計を行いました。単なる 48 時間の自律実行において、K3 はオープンソースの EDA ツールと Nangate 45nm ライブラリを活用し、チップの構築から最適化、検証までを一貫して完了させました。

面積は 4mm²未満で、タイミングは 100MHz でクロージングされ、シミュレーション上では毎秒 8,700 トークンを超えるデコードスループットを維持します。標準セル数は 146 万個、SRAM は 0.277MB、そして量子化解除機能を統合した INT4 MAC アレイを搭載しています。モデルがモデルのために設計したこのチップは、Kimi K3 の長期にわたる自律的なエージェント能力を如実に示すものです。

コーディングによる研究支援

Kimi K3 は科学文献と実行可能なコードをつなぐ役割を果たし、複雑な計算研究ワークフローの自動実装、検証、分析を実現します。

ある事例では、熟練した研究者であれば通常 1〜2 週間を要する作業を、Kimi K3 は約 2 時間で完了させました。計算天体物理学における「I–Love–Q」の普遍関係の再現において、同モデルは 20 編以上の論文を検証・相互検証し、数値パイプライン全体を実装。さらに 300 種類以上の状態方程式を評価し、公開された式の不整合を特定しました。その結果、3,000 行を超える Python コードを生成し、結果を検証するためのインタラクティブな HTML ダッシュボードも作成しています。

知識労働

Kimi K3 は、エンドツーエンドの知識作業を推進します。公開ベンチマークを超えて、Kimi K3 (max) は、実際のユーザーエージェントワークフローで観察される反復パターンや課題に基づいた内部評価においても、一貫した性能向上を示しています。このように異なる生産指向のワークフロー全体で一貫して優位性を示すことは、Kimi K3 のエージェント型知識作業能力が全体的に向上していることを反映しています。

対話型可視化を活用した研究

以下は、Kimi Work の Kimi K3 が金融コンサルティングや科学研究の分野で生成できる事例の一部です。

ケース 1: AI ASIC 産業に関する 42 年分のインタラクティブな研究ウェブサイト

掘り下げて閲覧可能なインタラクティブな調査レポートです。AI ASIC 業界の 42 年間の歴史を、再帰的な自己改善を 120 回以上繰り返すことで構築しました。Kimi K3 は証拠に基づき、カスタムチャートやアニメーション図解、インタラクティブな視覚的ナラティブ（物語）へと変換します。このレポート作成には、ウェブ検索・データ取得が 2,800 件超、ターミナルからのデータ抽出が 1,100 件超に及び、87 四半期報告書と 99 のオリジナル PDF を含む 11,000 ページ以上の情報を跨いで行われました。

ケース 2: 融合産業の研究

タイムライン、ファネルチャート、レンジバーチャート、ガントチャート、出版品質のスライドなど、インタラクティブな可視化を備えたコンサルティングスタイルの産業レポートです。

ケース 3: GWTC-5 重力波分析

20 以上の並列サブエージェントを活用して 391 の重力波イベントを分析し、7 つの科学的な可視化図、2 つの表、そして 10 篇以上の論文を統合した文献レビューを生成しました。

Kimi K3 は、以下に示すように、完全編集可能なヒートマップや年次報告書など、インフォグラフィックスタイルのプレゼンテーション作成においても特に優れた能力を発揮します。

ウィジェットとダッシュボード

Kimi Work では、Kimi K3 との対話をより視覚的かつ持続的なものにするため、「ウィジェット」と「ダッシュボード」の 2 つの新機能を導入しました。ウィジェットを使えば、チャット内で直接インタラクティブなコンポーネントを生成でき、ローカルデータや外部プラグインと連携して継続的な更新も可能です。一方、ダッシュボードは、特定のトピック、プロジェクト、あるいは目標を中心に、ユーザーが最も重視するウィジェットを 1 つの持続的なパーソナライズされたビューにまとめます。

動画編集

Kimi K3 は、テキスト、画像、動画を同一モデル内で理解できるネイティブなマルチモーダルアーキテクチャを持つため、モーションデザインやアニメーション、動画編集において卓越した能力を発揮します。

例えば、K3 は自らのアーキテクチャを解説する 3Blue1Brown 風のモーショングラフィックス explainer（解説動画）を作成しました。これは技術的な概念をアニメーションされた図形とトランジションに変換したものです。

別の事例では、Kimi K3 が 56 のソースクリップから自身のティザービデオを編集しました。クリップの選定、モーションに合わせたカット、フレーム単位のビート同期、音声処理、そして複数回の修正対応までを一手に引き受けたのです。このような高密度なショート動画の制作は、熟練のエディターでも 1〜2 営業日、初心者であれば 3〜5 日を要するのが一般的です。

アーキテクチャとインフラ

Kimi K3 は、Kimi Delta Attention（KDA）と Attention Residuals（AttnRes）を基盤に構築されています。KDA はアテンションの拡張に向けた効率的な基盤を提供し、AttnRes は深さ方向で表現を均一に蓄積するのではなく、必要な表現を選択的に取り出す仕組みです。これら 2 つの技術が組み合わさり、1 兆パラメータを超える規模でも十分にスケール可能なモデルのアーキテクチャの中核を形成しています。

Kimi K3 では、Stable LatentMoE を採用し、896 個あるエクスパートのうち 16 個のみを動的に活性化します。このレベルの高いスパース性において、ルーティングと最適化が最大の課題となります。そこで導入された Quantile Balancing は、ルーターのスコア分布から直接エクスパートの割り当てを決定し、経験則に基づく更新や調整が難しいハイパーパラメータを不要にしました。また、Per-Head Muon は従来の Muon オプティマイザーを拡張し、アテンションヘッドごとに独立して最適化を行うことで、大規模学習における適応的な学習を実現します。さらに、Sigmoid Tanh Unit（SiTU）と Gated MLA を採用することで、それぞれ活性化の制御とアテンションの選択性を向上させています。これらの技術的進歩により、2.8 兆パラメータという巨大なスケールでも安定かつ効率的なトレーニングが可能になっています。

Kimi K3 は SFT（Supervised Fine-Tuning）段階から量子化対応トレーニングを適用し、MXFP4 形式の重みと MXFP8 形式の活性化値を採用することで、幅広いハードウェア環境での互換性を確保しています。

大規模なエキスパート並列処理においてスループットが低下するのを防ぐため、静的形状を使用し、クリティカルパス上のホスト同期を不要とする完全バランス型のエキスパート並列トレーニング手法を導入しました。また、推論効率も高帯域幅の通信ドメインの拡大によって向上するため、64 基以上のアクセラレータを搭載したスーパーノード構成でのデプロイを推奨します。

さらに、KDA（Key-Value Cache Dynamic Allocation）は従来のプレフィックスキャッシュに新たな課題をもたらすため、vLLM コミュニティへ対応実装を提供し、モデル公開と同時にリリースする予定です。プリフィルキャッシュ付きの KDA を活用することで、Kimi K3 の大規模さと長いコンテキスト処理能力を維持しつつ、極めて競争力のあるトークン価格での提供を実現しています。

より詳細な技術情報は、近日公開予定のレポートにて発表いたします。

利用方法

• Kimi K3 エージェント: iOS、Android、HarmonyOS の各モバイルアプリストアから最新の Kimi アプリをダウンロードまたは更新するか、kimi.com にアクセスしてください。

• Kimi K3 ワーク: Windows および Apple シリコン搭載 Mac 向けに、バージョン 3.1.0 以降の最新デスクトップアプリ「Kimi Work」をダウンロードしてご利用ください。

• Kimi K3 でコーディング: ターミナルで Kimi Code を実行し、/model コマンドを使用して Kimi K3 を選択してください。

• Kimi API を利用して構築する：Kimi API プラットフォームにアクセスし、kimi-k3 を選択してください。キャッシュヒット時の入力料金は MTok あたり 0.30 ドル、キャッシュミス時は 3.00 ドル、出力は 15.00 ドルです。Mooncake の非集約推論アーキテクチャを採用しているため、公式 Kimi API はコーディングタスクにおいてキャッシュヒット率が 90% を超えています。

• 組織に Kimi を導入する：Kimi Enterprise では、エンタープライズレベルのデータプライバシーとメンバー管理を提供し、個人アカウントと組織アカウントを完全に分離しています。チーム向けに契約するには、料金ページから「Get Kimi Enterprise」を選択してください。

Full Benchmark Table

Footnotes

以下に報告するすべての Kimi K3 の結果は、推論エフォートを「max」に設定し、温度パラメータ（temperature）を 1.0、top-p を 1.0 に固定した条件下で取得されたものです。ベンチマークによっては、以下の注記にある通り、KimiCode、Claude Code、Codex のいずれかのエージェントハネス下で各モデルが評価されます。

Coding benchmarks

• DeepSWE：Kimi K3 は KimiCode ハネスで評価されました。GLM-5.2 のスコアは GLM-5.2 公式リリースブログ（https://z.ai/blog/glm-5.2）から引用しており、それ以外のすべてのスコアは公式の DeepSWE リーダーボード（https://deepswe.datacurve.ai/）からのものです。同リーダーボードにおいて、Kimi K3 は mini-SWE-agent ハネスを使用した場合に 67.3 のスコアを達成しています。

• Terminal-Bench 2.1。Kimi K3 は「KimiCode」ハーンネスを用いて評価されました。他のモデルについては、各ハーンネスで得られた最高スコアを報告しています：GLM-5.2 は Claude Code（https://z.ai/blog/glm-5.2）、Claude Opus 4.8 と Claude Fable 5 は Terminus 2（https://artificialanalysis.ai/evaluations/terminalbench-v2-1）、GPT 5.5 と GPT 5.6 Sol は Codex（https://openai.com/index/previewing-gpt-5-6-sol/）それぞれで測定した結果です。

• Program Bench。Kimi K3 の評価には「KimiCode」ハーンネスを使用しました。GLM-5.2 のスコアは https://z.ai/blog/glm-5.2 から引用し、それ以外のスコアは https://www.vals.ai/benchmarks/programbench に基づいています。

• SWE Marathon。Kimi K3、Claude Opus 4.8、Claude Fable 5 は「Claude Code」ハーンネスで評価され、GPT 5.6 Sol は Codex ハーンネスで評価されました。GLM-5.2 のスコアは https://z.ai/blog/glm-5.2 から引用しています。

• FrontierSWE。Kimi K3 は「KimiCode」ハーンネス、GPT 5.6 Sol は Codex ハーンネスで評価され、それ以外の結果は https://www.frontierswe.com/ から取得しました。ドミナンススコアは公式の評価スクリプトを用いて生データから再計算したもので、2026 年 7 月 16 日時点の最新値です。

• PostTrain Bench。GLM-5.2、GPT 5.5、Claude Opus 4.8 のスコアは公式の PostTrainBench 結果から引用しています。Kimi K3、Claude Fable 5、GPT 5.6 Sol は、最大推論能力を発揮する状態で公式の Harbor 実装を用いて評価しました。これは 3 回の試行の平均値です。Kimi K3 と Claude Fale 5 は Claude Code ハーネスを、GPT 5.6 Sol は Codex ハーネスを使用しています。Claude Code ハーネスでは、利用ポリシーにより Claude Fable 5 がリクエストを拒否した場合、自動的に Claude Opus 4.8 にフォールバックします。

• MLS Bench Lite。Kimi K3 は KimiCode ハーネスで、GLM-5.2 と Claude モデルは Claude Code ハーネスで、GPT 5.5 と GPT 5.6 Sol は Codex ハーネスでそれぞれ評価されました。

• KCB 2.0。Kimi K3 は KimiCode と Claude Code の両方のハーネスで評価され、GLM-5.2、Claude Opus 4.8、Claude Fable 5 は Claude Code ハーネスを、GPT 5.5 と GPT 5.6 Sol は Codex ハーネスを使用しました。すべてのモデルは最大推論能力で評価されていますが、GPT 5.5 のみ「xhigh」設定を使用しています。

生産性とエージェントベンチマーク

• OfficeQA Pro では、各テストケースでエージェントに PDF コーパス全体が提供されます。PDF はすべて画像としてレンダリングされており、機械可読なテキストは存在しません。

• OfficeQA Pro と SpreadsheetBench 2。Kimi K3、GLM-5.2、Claude Opus 4.8、Claude Fable 5 は Claude Code ハーネスで評価され、GPT 5.5 と GPT 5.6 Sol は Codex ハーネスで評価されました。

• MCP Atlas。すべてのモデルは、Gemini 3.1 Pro をジャッジ（評価者）に用い、500 タスクからなる公開サブセットで 100 ターン制限付きで評価されました。

• AutomationBench。すべてのモデルは、600 タスクの公開サブセット上で評価され、それ以外の点は公式 GitHub の設定に従っています。

• BrowseComp。Claude モデルカードで採用されているコンテキスト圧縮戦略を 30 万トークンでトリガーして適用しました。100 万トークンのコンテキストウィンドウを使用し、コンテキスト管理を行わない場合、Kimi K3 は 90.4 のスコアを記録します。Claude Fable 5、Claude Opus 4.8、GPT 5.6 Sol、GPT 5.5 の結果は、それぞれ https://www.anthropic.com/news/claude-fable-5-mythos-5 および https://openai.com/index/gpt-5-6/ から引用しています。

• GDPval-AA v2 と AA-Briefcase のスコアは、https://artificialanalysis.ai/ から引用しました。

多モーダルベンチマーク

• ZeroBench は公式設定に従い 5 回実行したものを除き、すべての多モーダルスコアは 3 回の平均値です。MMMU-Pro は公式プロトコルに従って評価され、入力順序が保持された上で画像がテキスト入力の先頭に付加されています。

• PerceptionBench。これは原子レベルの視覚知覚能力に焦点を当てた社内ベンチマークです。

限界

• 思考履歴への感応性。K3 は「保存された思考履歴モード」でトレーニングされています。もしエージェントのハーンが、必要なすべての歴史的な思考内容を正しく返却できない場合や、他のモデルとのセッション中に K3 に切り替えられた場合は、生成品質が著しく不安定になる恐れがあります。Kimi Code のように互換性が検証されたハーンを使用し、セッション途中で K3 に切り替えないことを強く推奨します。

• 過度な主体性。K3 のトレーニングでは、長期にわたる課題や難易度の高いタスクへの対応が特に重視されています。その結果、タスク実行中に些細な問題や曖昧なユーザーの意図に出会った際、ユーザーに代わって予期せぬ判断を下す可能性があります。アプリケーションでエージェントが明確に定義された範囲内で動作し、過度な即興を控えることが求められる場合は、システムプロンプトまたは AGENTS.md において K3 に対してより明示的な行動制約を設けてください。

• 全体として非常に競争力のあるモデルであるにもかかわらず、K3 はユーザーエクスペリエンスの面で Claude Fable 5 や GPT 5.6 Sol と比較して、明確な差が見て取れます。