Moonshot、Kimi K3 のモデル重みと技術報告書を公開
Moonshot AI は Kimi K3 モデルの公開を表明し、2.8 兆パラメータと 100 万トークンのコンテキスト長、および独自のアーキテクチャ技術を採用したことを発表した。
AI深層分析を開く2026年7月28日 23:30
AI深層分析
キーポイント
Kimi K3 の基本性能と特徴
同モデルは 2.8 兆パラメータを有し、100 万トークンのコンテキスト長に対応するネイティブマルチモーダルモデルである。
独自のアーキテクチャ技術
Kimi Delta Attention (KDA) と Attention Residuals (AttnRes) という2つの新技術を導入し、長期コンテキストでの推論速度を最大 6.3 倍向上させるとしている。
学習効率と用途
Attention Residuals によりトレーニング効率が約 25% 向上し、長期的なエージェント型コーディングや自己進化ワークフローの構築を目的としている。
公開スケジュールとアクセス
モデルは Kimi.com や API などで利用可能だが、重み（weights）と技術レポートの完全オープン化は 2026 年 7 月 27 日まで延期される。
MoE スパースティの拡大と効率化
Stable LatentMoE フレームワークと組み合わせることで、896 個のエクスパート中 16 個を有効に活用し、K2 と比較して全体のスケーリング効率が約 2.5 倍向上した。
重要な引用
Introducing Kimi K3: Open Frontier Intelligence
Kimi Delta Attention enables up to 6.3x faster decoding in million-token contexts
Attention Residuals deliver ~25% higher training efficiency at <2% additional cost
Together with refined training and data recipes, these structural changes yield an approximate 2.5× improvement in overall scaling efficiency compared to K2
編集コメントを表示
編集コメント
100 万トークンという膨大なコンテキストをネイティブで処理可能なモデルの実現は、長文ドキュメントの分析や複雑なコードベースの理解において大きな進展である。ただし、重みの公開が 2026 年まで延期されている点は、オープンソースコミュニティや研究者が即座に検証・活用できる環境にはまだ至っていないことを示している。
Source Article
元記事を日本語で読む
本文に関係しない購読案内、埋め込み通知、サイト内プロモーションは除いています。
@Kimi_Moonshot の他の投稿
7 月 16 日
Kimi K3：オープンフロンティア・インテリジェンスの登場
🔹 2.8 兆パラメータ、100 万トークンのコンテキスト、ネイティブ多モーダル対応
🔹 Kimi Delta Attention（KDA）により、百万トークン規模の文脈で最大 6.3 倍の高速デコーディングを実現
さらに詳しく見る
🔹 アテンション・リジデュアルズ（AttnRes）が、コスト増を 2% に抑えつつトレーニング効率を約 25% 向上
🔹 長期ホライゾンのエージェント型コーディングや自己進化型のワークフローに最適化
Kimi K3 は現在、Kimi.com、Kimi Work、Kimi Code、および Kimi API で利用可能です。
モデルの重み（weights）と技術レポートは 2026 年 7 月 27 日に公開予定です。
🔗 API：platform.kimi.ai
🔗 技術ブログ：kimi.com/blog/kimi-k3
Kimi K3 は、シーケンス長やモデルの深さにおける情報の流れを改善するために設計された 2 つのアーキテクチャ改良である「Kimi Delta Attention（KDA）」と「Attention Residuals（AttnRes）」に基づいています。
また、Mixture of Experts（MoE）のスパーシティも拡張し、Stable LatentMoE フレームワークと組み合わせることで、896 個のエキスパートのうち 16 個を効果的に活性化させています。
洗練されたトレーニング手法とデータレシピを組み合わせることで、これらの構造的変更により、K2 と比較して全体のスケーリング効率が約 2.5 倍向上しました。これにより、モデルは計算資源をより効果的に知能へと変換できるようになっています。
社内知識作業ベンチマーク
公開されたベンチマークに加え、Kimi K3 Max は実世界のユーザーエージェントワークフローで繰り返されるパターンや課題に基づいて構築された社内ベンチマークでも一貫して高いスコアを示しています。オンライン実行ベンチでは 75.5、DECK-Bench では 73.5、Finance-Bench では 62.6 を記録し、Claude Opus 4.8 (max) や GPT-5.5 (xhigh) をすべての項目で上回りました。
これらの結果は、Kimi K3 のエージェントによる知識作業能力が全体的に向上したことを示しており、実世界でのユースケースにおいてより高度で信頼性の高いパフォーマンスを発揮できることを意味しています。
ツイート 6 件を読む
5 月 14 日
Kimi Web Bridge をご紹介します。これは Kimi のブラウザ拡張機能です。
エージェントは人間のようにウェブサイトを操作できるようになりました。検索、スクロール、クリック、入力を行い、タスクを完了できます。
Kimi Code CLI、Claude Code、Cursor、Codex、Hermes などに対応しています。
現在、公式サイトおよび Chrome ウェブストアで利用可能です。
複数のプラットフォームを大規模に検索し、その結果を直接スプレッドシートへ自動入力できます。
K2.6 のマルチモーダル機能を活用すれば、エージェントがウェブサイトを自動的に開き、その構造を解析して複製まで行うことができます。
ツイート 6 件の読み込み中...
link#goto">
twitter-profile#error" data-retried="true">
4 月 20 日
Kimi K2.6 エージェントの登場です。動画ヒーローセクション、WebGL シャーダー、そして本番環境のバックエンドまで、たった一つのプロンプトで実現します。
🔹 動画ヒーローセクション – シネマティックな美しさを自動合成
詳しくはこちら
Jewish Culture（ユダヤ文化）
brand（ブランド）
People & Society（人々と社会）
Tweet scheduling service（ツイート投稿スケジュール管理サービス）
Religion & Belief（宗教と信念）
Defense Industry（防衛産業）
Social media management（ソーシャルメディア運用）
Tweet analysis tool（ツイート分析ツール）
🔹 WebGL シャーダーアニメーション – ネイティブな GLSL / WGSL による液体金属、光の屈折（カスティクス）、レイマーチング
🔹 モーションデザイン – GSAP と Framer Motion を活用
🔹 バックエンドデータベース – Kimi は認証、データベース、バックエンドをワンパスで接続します。
🔹 ウェブサイトスタック – React 19 + TypeScript + Vite + Tailwind + shadcn/ui
🔹 3D 表現 – 物理ベースのライティング（Three.js + React Three Fiber）
動画ヒーローセクションも、そのまま内蔵されています。
K2.6 エージェントは、ヒーローのシーンに本格的な映画のような映像を生成するために動画生成 API を呼び出します。単なる素材画像（ストックフォト）ではなく、ページに合成されスクロールに同期し、シェーダーによるオーバーレイ効果も加えられます。
WebGL シェーダーを流暢に扱います。
GLSL や WGSL を直接記述可能です。フラグメントシェーダー、頂点シェーダー、ノイズ処理、SDF（符号距離関数）、レイマーチングなどに対応します。プロンプト例：「柔らかいカスティック効果を持つ液体金属のヒーロー」
7 つのツイートを読む
link#goto">
twitter-profile#error" data-retried="true">
3 月 16 日
「アテンション・レシデュアルズ（Attention Residuals）」を発表：深層集約の再考
従来の残差接続は、固定された均一な累積に依存してきました。時間と深さの二重性に着想を得た本研究では、標準的な深層方向の反復計算を置き換え、先行する層に対して入力依存型の学習済みアテンションを用いる「Attention Residuals」を導入します。
🔹 ネットワークが過去の表現を必要に応じて選択的に取得できるようになり、情報の希釈や隠れ状態の肥大化を自然に抑制できます。
🔹 「Block AttnRes」という新構造により層を圧縮ブロックに分割し、大規模なネットワークでも層間アテンションを実用的に実現可能にします。
🔹 既存モデルへの差し替えが容易で、推論時のレイテンシ増加はほぼ無視できるレベル（2% 未満）ながら、計算効率では 1.25 倍の向上を示しました。
Kimi Linear アーキテクチャ（総パラメータ数 480 億、アクティブパラメータ 30 億）で検証済みであり、下流タスクでの性能向上を確実にもたらします。
詳細レポートはこちら：
スケーリング則の実験により、モデルサイズに関わらず計算資源面で 1.25 倍の優位性が確認されました。
トレーニングダイナミクスの分析では、AttnRes が隠れ状態の規模増を自然に抑制し、深層全体でより均一な勾配分布を実現する仕組みが明らかになりました。
ツイート 4 件を読む
link#goto">
twitter-profile#error" data-retried="true">
2025 年 11 月 28 日
Kimi Agentic のスライド資料をご紹介します。
Nano Banana Pro を搭載し、さらに進化しました 🍌
🎁 サンクスギビングのプレゼント：48 時間無料・無制限アクセス
🔸 エージェント型検索（Kimi K2）
🔸 ファイルからスライドへ（PDF、画像、ドキュメントなど対応）
🔸 完全編集可能 + PPTX 形式でエクスポート
🔸 デザイナーレベルのビジュアル（インフォグラフィック、イラストレーション）
今すぐお試しください：kimi.com/slides
簡単なガイドはこちら 👇
研究論文からプレゼンテーション用の資料へ
原文を表示
More from @Kimi_Moonshot
link#goto">
twitter-profile#error" data-retried="true">
Jul 16
Introducing Kimi K3: Open Frontier Intelligence
🔹 2.8 Trillion Parameters, 1 Million Context, Native Multimodal
🔹 Kimi Delta Attention enables up to 6.3x faster decoding in million-token contexts
Discover more
X URL shortener
Export Twitter threads
Thread archiving tool
Religious
Social Networks
Social media marketing
Cross platform apps
Mobile app development
🔹 Attention Residuals deliver ~25% higher training efficiency at <2% additional cost
🔹 Built for long-horizon agentic coding and self-evolving workflows
Kimi K3 is now live on on Kimi.com, Kimi Work, Kimi Code, and the Kimi API.
Open Weights by July 27, 2026.
🔗 API: platform.kimi.ai
🔗 Tech blog: kimi.com/blog/kimi-k3
K3 is built on Kimi Delta Attention (KDA) and Attention Residuals (AttnRes), two architectural updates designed to improve how information flows across sequence length and model depth.
We have also scaled up Mixture of Experts (MoE) sparsity, effectively activating 16 out of 896 experts when paired with a Stable LatentMoE framework.
Together with refined training and data recipes, these structural changes yield an approximate 2.5× improvement in overall scaling efficiency compared to K2, allowing the model to convert compute into intelligence more effectively.
Internal knowledge work bench
Beyond public benchmarks, Kimi K3 Max also shows consistent gains on our internal benchmarks, which are built from recurring patterns and challenges in real-world user-agent workflows.
It scores 75.5 on Online Exp Bench, 73.5 on DECK-Bench, and 62.6 on Finance-Bench, outperforming Claude Opus 4.8 (max) and GPT-5.5 (xhigh) across all three.
These results reflect broad improvements in Kimi K3's agentic knowledge work capabilities, enabling more capable and reliable performance in real-world use cases.
Read 6 tweets
link#goto">
twitter-profile#error" data-retried="true">
May 14
Meet Kimi Web Bridge - Kimi's browser extension.
Agent can now interact with websites like a human: search, scroll, click, type and complete tasks.
Supports Kimi Code CLI, Claude Code, Cursor, Codex, Hermes, and more.
Available now on and the Chrome Web Store.kimi.com/features/webbr…
Search across multiple platforms at scale and auto-fill results directly into your spreadsheet.
With K2.6's multimodal capability, your agent will open a website, navigate through it, and replicate it.
Read 6 tweets
link#goto">
twitter-profile#error" data-retried="true">
Apr 20
Meet Kimi K2.6 agent - Video hero section, WebGL shaders, real backends. From one prompt.
🔹 Video hero sections - cinematic aesthetic, auto-composited
Discover more
Jewish Culture
brand
People & Society
Tweet scheduling service
Religion & Belief
Defense Industry
Social media management
Tweet analysis tool
🔹 WebGL shader animations - native GLSL / WGSL, liquid metal, caustics, raymarching
🔹 Motion design - GSAP + Framer Motion
🔹 Backend database: Kimi wires up auth + database + backend in one pass.
🔹 Website stack - React 19 + TypeScript + Vite + Tailwind + shadcn/ui
🔹 3D w/ physically-based lighting - Three.js + React Three Fiber
Video hero sections, built right in.
K2.6 agent calls video generation APIs to create real cinematic footage for your hero, not stock placeholders. Composited into the page, synced to scroll, with shader overlays.
Speaks fluent WebGL shader.
Writes GLSL / WGSL directly - fragment shaders, vertex shaders, noise, SDF, raymarching. Prompt: "a liquid-metal hero with soft caustics."
Read 7 tweets
link#goto">
twitter-profile#error" data-retried="true">
Mar 16
Introducing 𝑨𝒕𝒕𝒆𝒏𝒕𝒊𝒐𝒏 𝑹𝒆𝒔𝒊𝒅𝒖𝒂𝒍𝒔: Rethinking depth-wise aggregation.
Residual connections have long relied on fixed, uniform accumulation. Inspired by the duality of time and depth, we introduce Attention Residuals, replacing standard depth-wise recurrence with learned, input-dependent attention over preceding layers.
🔹 Enables networks to selectively retrieve past representations, naturally mitigating dilution and hidden-state growth.
🔹 Introduces Block AttnRes, partitioning layers into compressed blocks to make cross-layer attention practical at scale.
🔹 Serves as an efficient drop-in replacement, demonstrating a 1.25x compute advantage with negligible (<2%) inference latency overhead.
🔹 Validated on the Kimi Linear architecture (48B total, 3B activated parameters), delivering consistent downstream performance gains.
🔗Full report:
Scaling law experiments reveal a consistent 1.25× compute advantage across varying model sizes.
Analysis of training dynamics demonstrates how AttnRes naturally mitigates hidden-state magnitude growth and yields a more uniform gradient distribution across depth.
Read 4 tweets
link#goto">
twitter-profile#error" data-retried="true">
Nov 28, 2025
Meet Kimi Agentic Slides!
Now with Nano Banana Pro 🍌
🎁 Thanksgiving Gift: 48H FREE & UNLIMITED ACCESS
🔸 Agentic search (Kimi K2)
🔸 Files → Slides (PDFs, images, docs+)
🔸 Fully editable + PPTX export
🔸 Designer-level visuals (infographics, illustrations)
Try now: kimi.com/slides
Here's a quick guide. 👇
Research paper -> Presentation Ready Deck
Read 5 tweets
AI算出
主要ニュースainew評価標準
Moonshot AI が Kimi K3 の重みと技術レポートを公開したことは、同クラスター内の既存記事（実行環境の提供や API ゲートウェイへの追加）とは異なり、モデル内部の詳細な技術情報という独立した重大な情報増分である。ただし、日本企業との直接的な関連性や日本語での一次情報は限定的であるため、日本の関連性は低く評価される。
6つの評価軸を見る
- AI関連度
- 100
- 情報源の信頼性
- 50
- 新規性
- 75
- 調べる価値
- 75
- 重複の少なさ
- 69
- 日本での有用性
- 25
他社はどう報じたか
同じ出来事を扱う別媒体の記事です。見出しと公開時刻を比較できます。
関連記事
今日のまとめ
AIデイリーブリーフで今日の重要ニュースをまとめ読み