Moonshot AI、Kimi K3 のモデル重みと技術報告を公開
本文の状態
日本語全文を表示中
詳細モードで約5分の本文を読めます。
Moonshot AI は Kimi K3 モデルの重み、技術報告書、および MoonEP や FlashKDA といった訓練基盤技術をオープンソース化し、2.8 兆パラメータの MoE モデルと百万トークンコンテキストの実装を可能にした。
AI深層分析を開く2026年8月1日 01:19
AI深層分析
キーポイント
Kimi K3 モデルの詳細公開
同社は Kimi K3 を 2.8 兆パラメータの混合专家（MoE）モデルとして発表し、原生視覚理解と 100 万トークンのコンテキストウィンドウをサポートすると明言した。
技術的革新による効率化
Kimi Delta Attention や MoonEP などの新技術により、同社は単位算力あたりの智能産出を 2.5 倍に向上させたと報告している。
訓練基盤技術のオープンソース化
高性能通信ライブラリ「MoonEP」、演算子「FlashKDA」、および Agent 環境用沙箱システム「AgentEnv」が GitHub で公開された。
技術報告書の同時リリース
KDA と Gated MLA の混合構成や Stable LatentMoE の仕組みなど、モデル訓練の核心技術に関する詳細な分析が技術報告書として公開された。
重要な引用
Kimi K3 は 2.8 兆パラメータの MoE モデルであり、原生視覚理解能力と 100 万トークンのコンテキストウィンドウを備えている
MoonEP は超大型の細粒度 MoE 向けに設計された高性能通信ライブラリである
FlashKDA は英伟达 H20 上において flash-linear-attention ベースラインと比較して prefill 速度が 1.72〜2.22 倍向上した
編集コメントを表示
編集コメント
Moonshot AI は単なるモデルの公開にとどまらず、その背後にある訓練基盤（Infra）をすべて解放することで、コミュニティ全体での AGI 研究加速を図っている。特に Vision モジュールが対照学習なしで訓練された点は、今後のマルチモーダル学習アプローチにおいて注目すべき技術的転換点となるだろう。
Source Article
元記事を日本語で読む
本文に関係しない購読案内、埋め込み通知、サイト内プロモーションは除いています。
Kimi K3 开放日：模型权重、技术报告及关键基础设施同步开源
我们选择开放。
感谢各位的耐心等待。今天是 Kimi K3 开放日，我们正式发布 Kimi K3 的模型权重与技术报告，并开源支撑该模型训练的关键基础设施技术：MoonEP、FlashKDA 和 AgentEnv。希望通过此举加速前沿智能技术的部署与普及，推动 AGI（通用人工智能）研究的发展。
Kimi K3 模型权重公布
Kimi K3 是我们目前能力最强的模型。这是一款拥有 2.8 万亿参数的混合专家（MoE）架构模型，具备原生视觉理解能力，并支持高达 100 万 token 的上下文窗口。
虽然 Kimi K3 的参数规模约为 Kimi K2.5 的 3 倍，但规模化并非简单的参数堆叠。在算力资源有限的条件下，我们凭借 Kimi Delta Attention、Attention Residuals（注意力残差）以及 MoonEP 等一系列技术创新，将规模化效率提升了 2.5 倍。这意味着在最优算力配置下，单位算力产出的智能水平相当于过去的 2.5 倍。
现在，任何人都可以下载并部署 Kimi K3 模型——无论是用于内部研发，还是嵌入到面向终端用户的产品中，均可自由使用（其他使用情形请详见 Kimi K3 许可证）。
→ 下载 Kimi K3 模型权重
Kimi K3 技术报告发布
与 Kimi K3 模型权重一同公开的，还有我们的模型训练方法——《Kimi K3 技术报告》也已同步上线。
通过这份技术报告，您可以深入了解以下核心技术细节：
- KDA + AttnRes：以 3:1 的比例混合 KDA（Key-Value Distillation Attention）与 Gated MLA（Gated Mixture of Linear Attention），实现高效的长上下文建模；同时利用块级注意力残差增强跨层信息流动。
- Stable LatentMoE：每个 token 从 896 个路由专家中激活 16 个，并通过 SiTU-GLU 与 Quantile Balancing（分位数平衡）技术，在保持极高稀疏度的同时确保训练过程的稳定性。
- MoonViT-V2：视觉编码器从零开始采用 next-token prediction（下一个 token 预测）方式进行训练，无需对比预训练。该模型在达到 SigLIP 初始化基线效果的同时，实现了更稳定的优化过程。
後処理と評価：汎用推論、汎用エージェント、プログラミングエージェントの 3 つの主要分野で大規模なタスク合成を実施し、100 万トークン単位のコンテキストに対応する強化学習基盤を整備。さらに、内部で用意した約 20 の評価セットにおける完全な評価結果も公開しています。
これらはあくまで概要です。詳細な議論やアブレーション実験については、技術レポートをご覧ください。
image→ Kimi K3 技術レポートをダウンロード
Kimi K3 の基盤インフラ技術をオープンソース化
モデルの能力を支えているのは、訓練システム、つまりインフラ層の安定したサポートです。本稿では、Kimi K3 の訓練を支える 3 つのインフラ技術をご紹介します。これらは高性能通信から高性能演算子、分散強化学習環境に至るまでの重要なチェーンをカバーしています。
具体的には以下の 3 つです：MoonEP、FlashKDA、AgentEnv。このうち FlashKDA は以前に公開済みですが、MoonEP と AgentEnv は今回のリリースに合わせて正式にオープンソース化されます。
MoonEP
MoonEP は、超大規模な微細粒度の MoE（Mixture of Experts）モデル向けに開発した高性能通信ライブラリです。専門家の並列処理（エキスパート並列）における通信が不均衡な状況でも、極限まで高い効率を実現します。
FlashKDA
FlashKDA は、Kimi Delta Attention のための高性能演算子（カーネル）を実装したものです。NVIDIA H20 上では、flash-linear-attention ベースラインと比較して prefill 速度が 1.72〜2.22 倍向上しました。これは flash-linear-attention の代替バックエンドとしてそのまま利用可能です。
AgentEnv
AgentENV は、KVCache.ai と共同で開発したサンドボックスシステムです。大規模なエージェント環境の実行を可能にします。Kimi K3 の後処理訓練において、高忠実度かつ強力な隔離性を備えたサンドボックスを提供し、迅速なスナップショット作成、復元、分岐（fork）などを柔軟にサポート。大規模並列のエージェントワークフローや訓練タスクにも対応可能です。
これら 3 つの技術は、Kimi K3 の訓練効率と安定性を支える重要な要素です。今回これらを公開することで、次世代モデルの訓練を支援できることを願っています。
→ MoonEP GitHub リポジトリ
→ FlashKDA GitHub リポジトリ
→ AgentENV GitHub リポジトリ
なぜオープンソース化を選んだのか
私たちは、オープンウェイトモデルが持つ価値を信じています。それらは知能へのアクセスハードルを下げるだけでなく、イノベーションを促進し、ユーザーにデータに対するより大きなコントロール権、プライバシー保護、所有権をもたらします。
ここ数週間で、AI コミュニティや私たちと同じビジョンを持つ技術リーダーたちから多くの支持の声をいただき、大変嬉しく思っています。
AGI（汎用人工知能）のような広範な影響を持つ技術においては、広く開放されたエコシステムこそが最も適した土壌であると私たちは信じています。そのために、私たちは引き続き貢献してまいります。
↓ すぐに始める
- Kimi K3 モデルのウェイトをダウンロードする
- Kimi K3 技術レポートを読む
- MoonEP の技術を詳しく知る
- FlashKDA の技術を詳しく知る
- AgentEnv の技術を詳しく知る
- Kimi K3 モデルについて理解を深める
WeChat で開く
原文を表示
原创 Kimi K3 2026-07-27 23:13 天津
image
我们选择 Open
感谢大家的耐心等待。
今天是 Kimi K3 开放日，我们发布 Kimi K3 的模型权重、技术报告，并开源支撑 Kimi K3 模型训练的关键 Infra 技术：MoonEP、FlashKDA和AgentEnv。希望以此加速前沿智能的部署与普及，促进 AGI 研究。
Kimi K3 权重公布
Kimi K3 是我们能力最强的模型：这是一个拥有 2.8 万亿参数的混合专家（MoE）模型，具备原生视觉理解能力，并支持 100 万 token 的上下文窗口。
Kimi K3 参数规模是 Kimi K2.5 的 3 倍左右，但是规模化并不仅仅是参数的堆叠，在并不宽裕的算力条件下，我们凭借 Kimi Delta Attention、Attention Residuals 以及 MoonEP 等一系列技术创新，规模化效率提升了 2.5 倍（即在算力最优意义下，单位算力产出智能约等于原来 2.5 倍）。
现在，每个人都可以下载并部署 Kimi K3 模型——无论是用于内部研发，还是嵌入到面向终端用户的产品中，均可自由使用（其他使用情形，详见Kimi K3 许可证）。
→ 下载 Kimi K3 模型权重
Kimi K3 技术报告发布
今天，与 Kimi K3 模型权重一起公开的，还有我们的模型训练方法——Kimi K3 技术报告已同步上线。
从技术报告中，你可以了解这些技术细节：
KDA + AttnRes：以 3:1 比例混合 KDA 与 Gated MLA，实现高效长上下文建模，并通过块级注意力残差增强跨层信息流动。
Stable LatentMoE：每个 token 从 896 个路由专家中激活 16 个，并通过 SiTU-GLU 与 Quantile Balancing 保持极高稀疏度下的训练稳定。
MoonViT-V2：视觉编码器从零开始使用 next-token prediction 训练，无需对比预训练，在达到 SigLIP 初始化基线效果的同时获得更稳定的优化过程。
后训练与评估：在通用推理、通用 Agent 和编程 Agent 三大领域进行大规模任务合成，百万 token 上下文的强化学习基建，近 20 个内部评测集的完整评估结果。
以上几点只是概览，详细论述与消融实验，都已在技术报告中展开。
image→ 下载 Kimi K3 技术报告
Kimi K3 关键 Infra 技术开源
模型能力背后，离不开训练系统，即 Infra 基础设施层的稳定支撑。今天，我们向大家介绍支撑 Kimi K3 训练的三项 Infra 技术：MoonEP、FlashKDA 和 AgentEnv，覆盖从高性能通信、高性能算子到分布式 RL 环境的关键链路。其中 FlashKDA 此前已开源，MoonEP 和 AgentEnv 则随本次发布正式开源。
MoonEP：MoonEP 是我们为超大的细粒度 MoE 打造的高性能通信库，让专家并行（expert-parallel）的通信在不均衡的情况下仍然实现极致效率。
FlashKDA：FlashKDA 是我们实现的 Kimi Delta Attention 高性能算子（kernel）。在英伟达 H20 上，相比 flash-linear-attention 基线，它的 prefill 速度提升 1.72-2.22 倍，可以直接作为 flash-linear-attention 的替换后端。
AgentEnv：AgentENV 是我们与 KVCache.ai 合作开发的沙箱系统，用于大规模运行 Agent 环境。它为 Kimi K3 的后训练提供高保真、强隔离沙箱，灵活支持快速快照、恢复和分叉（fork）等，可以应对大规模并行的 Agent 工作流与训练任务。
这三项技术是支撑 Kimi K3 训练效率与稳定性的关键。现在将它们开放出来，希望也能为你训练下一代模型的提供帮助。
→ MoonEP GitHub仓库
→ FlashKDA GitHub仓库
→ AgentENV GitHub仓库
为什么我们选择开放
我们坚信开放权重模型的价值。它们能降低获取智能的门槛，推动创新，并赋予用户对数据更大的控制权、隐私保护和所有权。在过去几周里，我们很高兴听到了许多来自 AI 社区，以及与我们有着共同愿景的技术领袖的支持声音。
我们相信，对于 AGI 这样具有深远影响的技术，一个广泛、开放的生态系统是最适合承载它的土壤。为此，我们将继续贡献自己的力量。
↓快速开始
下载 Kimi K3 模型权重
阅读 Kimi K3 技术报告
了解 MoonEP 技术
了解 FlashKDA 技术
了解 AgentEnv 技术
了解 Kimi K3 模型
跳转微信打开
同じ出来事を4媒体で確認
同じ出来事を扱う別媒体の記事です。見出しと公開時刻を比較できます。
関連記事
今日のまとめ
AIデイリーブリーフで今日の重要ニュースをまとめ読み