Moonshot、Kimi K3 のモデル重み・技術報告・基盤インフラをオープンウェイト化
本文の状態
日本語全文を表示中
詳細モードで約6分の本文を読めます。
同じ出来事の情報源
この情報源を基点に整理
Moonshot Kimi
Moonshot AI は Kimi K3 モデルの重み、技術報告書、および MoonEP や FlashKDA などの基盤技術を公開し、大規模モデルの効率化と AGI 研究の普及を加速させる方針を示した。
Continue in AI NEW LAB
このニュースを、実務の判断につなげる
AI NEW LABで、試したことや先に確認したい条件を共有できます。まずはログインなしで読めます。
AI NEW LABで論点を見るAI深層分析を開く2026年8月12日 23:31
AI深層分析
キーポイント
Kimi K3 モデルの詳細と公開
同社は 2.8 兆パラメータの MoE 構造を持つ Kimi K3 を発表し、100 万トークンのコンテキストウィンドウと原生視覚理解機能を備えている。
技術報告書の公開
KDA と Gated MLA の混合、Stable LatentMoE、MoonViT-V2 などの訓練手法や評価結果に関する詳細な技術報告が同時にリリースされた。
基盤インフラ技術のオープンソース化
高性能通信ライブラリの MoonEP、演算子最適化の FlashKDA、および Agent 環境用の沙箱システム AgentEnv が GitHub で公開された。
重要な引用
Kimi K3 は 2.8 兆パラメータの混合专家（MoE）モデルであり、100 万トークンのコンテキストウィンドウをサポートする
MoonEP と AgentEnv は本発表に伴い正式にオープンソース化された
FlashKDA は英伟达 H20 上で flash-linear-attention ベースラインと比較して prefill 速度が 1.72-2.22 倍向上した
編集コメントを表示
編集コメント
Moonshot AI が Kimi K3 の重みと基盤技術を同時に公開したことは、大規模モデルの民主化に向けた明確な一歩である。特に訓練効率を高める独自技術のオープンソース化は、限られた計算資源で高性能モデルを構築したい開発者にとって大きな価値を持つ。
Source Article
元記事を日本語で読む
本文に関係しない購読案内、埋め込み通知、サイト内プロモーションは除いています。
Kimi K3 开放日：模型权重、技术报告与关键基础设施同步开源
私たちは Open を選びます
ご待機いただき、誠にありがとうございます。
本日、Kimi K3 のオープンデーを開催します。この機会に Kimi K3 のモデル重み（パラメータ）と技術報告書を公開するとともに、同モデルの訓練を支える重要なインフラ技術「MoonEP」「FlashKDA」「AgentEnv」をオープンソース化いたします。これにより、最先端の知能システムの導入と普及を加速し、AGI 研究の発展に貢献したいと考えています。
Kimi K3 モデル重みの公開
Kimi K3 は、現時点で最も能力の高いモデルです。2.8 兆パラメータを持つ混合専門家（MoE）アーキテクチャを採用し、ネイティブな視覚理解機能を備えています。また、100 万トークンという広大なコンテキストウィンドウを処理可能です。
Kimi K3 のパラメータ規模は Kimi K2.5 の約 3 倍に達しますが、単なる数の積み上げではありません。限られた計算資源の制約下において、「Kimi Delta Attention」「Attention Residuals」、そして「MoonEP」などの技術革新により、スケーリング効率を 2.5 倍向上させることに成功しました。つまり、最適化された計算リソースに対して、従来比で約 2.5 倍の知能を生み出すことが可能になったのです。
現在、Kimi K3 モデルは誰でもダウンロードしてデプロイできます。社内での研究開発に用いたり、エンドユーザー向け製品に組み込んだりする場合も自由にご利用いただけます（その他の利用条件については、Kimi K3 ライセンスをご参照ください）。
→ Kimi K3 モデル重みのダウンロード
Kimi K3 技術報告書の公開
本日は、Kimi K3 のモデル重みと同時に、その訓練手法を詳述した「Kimi K3 技術報告書」も公開いたします。
技術報告書では、以下の技術的詳細を確認できます：
- KDA + AttnRes: KDA と Gated MLA を 3:1 の比率で組み合わせることで効率的な長文コンテキストのモデル化を実現し、ブロックレベルの注意力残差（Attention Residuals）によって層間での情報伝達を強化します。
- Stable LatentMoE: 各トークンについて 896 個のルーティング専門家から 16 個を選択して活性化させます。SiTU-GLU と Quantile Balancing を採用することで、極めて高いスパース性（疎密度）の下でも安定した訓練を可能にします。
- MoonViT-V2: 視覚エンコーダーはゼロから「次トークン予測」を用いて訓練されます。対照的学習による事前訓練は不要です。SigLIP の初期化ベースラインと同等の性能を発揮しつつ、より安定した最適化プロセスを実現しています。
後処理と評価
汎用的な推論、汎用的なエージェント、プログラミングエージェントの 3 つの主要分野において大規模なタスク合成を実施し、100 万トークン単位のコンテキストを扱える強化学習基盤を整備。さらに、内部で用意した約 20 の評価セットにおける完全な結果も公開しています。
これらはあくまで概要です。詳細な分析やアブレーション実験については、技術レポートにて詳しく解説しています。
image→ Kimi K3 技術レポートをダウンロード
Kimi K3 の基盤インフラ技術をオープンソース化
モデルの能力を支えているのは、訓練システム、つまりインフラ層の安定したサポートです。本稿では、Kimi K3 の訓練を支える 3 つのインフラ技術——MoonEP、FlashKDA、AgentEnv——をご紹介します。これらは高性能通信から高性能演算子、分散強化学習環境に至るまでの重要なチェーンをカバーしています。なお、FlashKDA は以前にオープンソース化されていましたが、MoonEP と AgentEnv は今回の発表に伴い正式に公開されます。
MoonEP：MoonEP は、超大型の細粒度 MoE（Mixture of Experts）モデル向けに開発した高性能通信ライブラリです。専門家並列処理（expert-parallel）における通信が不均衡な状況でも、極限まで効率化を実現します。
FlashKDA：FlashKDA は、Kimi Delta Attention のための高性能演算子（カーネル）を実装したものです。NVIDIA H20 環境において、flash-linear-attention ベースラインと比較して prefill 速度が 1.72〜2.22 倍向上しており、flash-linear-attention の代替バックエンドとして直接利用可能です。
AgentEnv：AgentENV は、KVCache.ai と共同開発したサンドボックスシステムで、大規模なエージェント環境の運用を可能にします。Kimi K3 の後処理訓練において、高忠実度かつ強力な隔離を提供し、迅速なスナップショット作成、復元、分岐（fork）などを柔軟にサポート。大規模並行のエージェントワークフローや訓練タスクにも対応可能です。
これら 3 つの技術は、Kimi K3 の訓練効率と安定性を支える要です。今回これらを公開することで、次世代モデルを訓練する方々のお役に立てれば幸いです。
→ MoonEP GitHub リポジトリ
→ FlashKDA GitHub リポジトリ
→ AgentENV GitHub リポジトリ
なぜオープンソース化を選んだのか
私たちは、オープンウェイトモデルの価値を信じています。それらは知能へのアクセス障壁を下げるだけでなく、イノベーションを促進し、ユーザーがデータに対するコントロール権、プライバシー保護、所有権をより強く持ちられるようにします。ここ数週間で、AI コミュニティや同じビジョンを持つ技術リーダーから多くの支持の声をいただき、大変嬉しく思っています。
AGI（汎用人工知能）のような社会に深く影響を与える技術においては、広く開放されたエコシステムこそが最も適した土壌だと考えています。私たちはそのために引き続き貢献してまいります。
↓ すぐに始める
Kimi K3 モデルの重みファイルをダウンロード
Kimi K3 技術レポートを読む
MoonEP の技術を詳しく知る
FlashKDA の技術を詳しく知る
AgentEnv の技術を詳しく知る
Kimi K3 モデルについて詳しく知る
WeChat で開く
原文を表示
原创 Kimi K3 2026-07-27 23:13
image
我们选择 Open
感谢大家的耐心等待。
今天是 Kimi K3 开放日，我们发布 Kimi K3 的模型权重、技术报告，并开源支撑 Kimi K3 模型训练的关键 Infra 技术：MoonEP、FlashKDA和AgentEnv。希望以此加速前沿智能的部署与普及，促进 AGI 研究。
Kimi K3 权重公布
Kimi K3 是我们能力最强的模型：这是一个拥有 2.8 万亿参数的混合专家（MoE）模型，具备原生视觉理解能力，并支持 100 万 token 的上下文窗口。
Kimi K3 参数规模是 Kimi K2.5 的 3 倍左右，但是规模化并不仅仅是参数的堆叠，在并不宽裕的算力条件下，我们凭借 Kimi Delta Attention、Attention Residuals 以及 MoonEP 等一系列技术创新，规模化效率提升了 2.5 倍（即在算力最优意义下，单位算力产出智能约等于原来 2.5 倍）。
现在，每个人都可以下载并部署 Kimi K3 模型——无论是用于内部研发，还是嵌入到面向终端用户的产品中，均可自由使用（其他使用情形，详见Kimi K3 许可证）。
→ 下载 Kimi K3 模型权重
Kimi K3 技术报告发布
今天，与 Kimi K3 模型权重一起公开的，还有我们的模型训练方法——Kimi K3 技术报告已同步上线。
从技术报告中，你可以了解这些技术细节：
KDA + AttnRes：以 3:1 比例混合 KDA 与 Gated MLA，实现高效长上下文建模，并通过块级注意力残差增强跨层信息流动。
Stable LatentMoE：每个 token 从 896 个路由专家中激活 16 个，并通过 SiTU-GLU 与 Quantile Balancing 保持极高稀疏度下的训练稳定。
MoonViT-V2：视觉编码器从零开始使用 next-token prediction 训练，无需对比预训练，在达到 SigLIP 初始化基线效果的同时获得更稳定的优化过程。
后训练与评估：在通用推理、通用 Agent 和编程 Agent 三大领域进行大规模任务合成，百万 token 上下文的强化学习基建，近 20 个内部评测集的完整评估结果。
以上几点只是概览，详细论述与消融实验，都已在技术报告中展开。
image→ 下载 Kimi K3 技术报告
Kimi K3 关键 Infra 技术开源
模型能力背后，离不开训练系统，即 Infra 基础设施层的稳定支撑。今天，我们向大家介绍支撑 Kimi K3 训练的三项 Infra 技术：MoonEP、FlashKDA 和 AgentEnv，覆盖从高性能通信、高性能算子到分布式 RL 环境的关键链路。其中 FlashKDA 此前已开源，MoonEP 和 AgentEnv 则随本次发布正式开源。
MoonEP：MoonEP 是我们为超大的细粒度 MoE 打造的高性能通信库，让专家并行（expert-parallel）的通信在不均衡的情况下仍然实现极致效率。
FlashKDA：FlashKDA 是我们实现的 Kimi Delta Attention 高性能算子（kernel）。在英伟达 H20 上，相比 flash-linear-attention 基线，它的 prefill 速度提升 1.72-2.22 倍，可以直接作为 flash-linear-attention 的替换后端。
AgentEnv：AgentENV 是我们与 KVCache.ai 合作开发的沙箱系统，用于大规模运行 Agent 环境。它为 Kimi K3 的后训练提供高保真、强隔离沙箱，灵活支持快速快照、恢复和分叉（fork）等，可以应对大规模并行的 Agent 工作流与训练任务。
这三项技术是支撑 Kimi K3 训练效率与稳定性的关键。现在将它们开放出来，希望也能为你训练下一代模型的提供帮助。
→ MoonEP GitHub仓库
→ FlashKDA GitHub仓库
→ AgentENV GitHub仓库
为什么我们选择开放
我们坚信开放权重模型的价值。它们能降低获取智能的门槛，推动创新，并赋予用户对数据更大的控制权、隐私保护和所有权。在过去几周里，我们很高兴听到了许多来自 AI 社区，以及与我们有着共同愿景的技术领袖的支持声音。
我们相信，对于 AGI 这样具有深远影响的技术，一个广泛、开放的生态系统是最适合承载它的土壤。为此，我们将继续贡献自己的力量。
↓快速开始
下载 Kimi K3 模型权重
阅读 Kimi K3 技术报告
了解 MoonEP 技术
了解 FlashKDA 技术
了解 AgentEnv 技术
了解 Kimi K3 模型
跳转微信打开
関連記事
今日のまとめ
AIデイリーブリーフで今日の重要ニュースをまとめ読み