Kimi 楊植麟「2026 中関村フォーラム」講演全文（動画付き）

月之暗面 Kimi 2026-03-31 20:20 天津

すべての基礎技術は再考に値する

皆さん、こんにちは。今日は、オープンソースモデルの開発と、より優れた大規模言語モデル（LLM）の継続的な訓練における最新の進展と考察をお話しできる機会をいただき、大変嬉しく思います。

実は、大規模モデルを開発する本質は、エネルギーを知能に変換することです。その変換プロセスにおいて最も重要なことは、スケーラビリティ（規模の拡大）です。つまり、可能な限り多くのエネルギーを、計算資源とモデルを通じて、より多く、より高度な知能へと変換していくことです。

本質的に、スケーリング法則（Scaling Law）は過去数年間におけるすべてのモデルや AI 発展の非常に重要な基盤となっています。

もちろん、スケーラビリティとは、単にエネルギーを暴力的に増やすこと、あるいは計算資源を暴力的に増やすことを意味するわけではありません。それは、いかに効率的に規模を拡大するかという課題に関わるものです。

私たちは、効率性を高めるために以下の 3 つの側面から考えます。

まずはトークン効率の向上です。

これは、同じデータからどれだけの知能を学習できるかを表しています。なぜなら、この世の有効で高品質なデータは実は定数であり、あるいは非常に限られた値だからです。より優れたネットワークアーキテクチャや、より良いオプティマイザがあれば、有限のデータからより多くの知能を学習することができます。

二つ目はコンテキスト長の拡張です。

より長いコンテキスト処理能力を持つことは、モデルがより複雑なタスクを処理できるようになることを意味します。そのために、私たちは新しいネットワークアーキテクチャ「Kimi Linear」と専用の訓練データを設計し、長文コンテキストにおけるモデルの性能向上を図りました。

三つ目はエージェントクラスタです。

最新のモデル「Kimi K2.5」において、私たちは新たなスケーリング手法を提案しました。それは複数のエージェントを導入し、多数のエージェントが連携して作業を行うことで、エージェントクラスタを形成するというものです。この方法によって、AI が処理できるタスクの複雑さを向上させます。

これは「Kimi K2.5」のエージェントクラスタに関する内部テスト結果です。横軸はタスクの複雑度、縦軸は実行時間を示しています。もしこのように単一エージェントで作業を行う場合、タスクの複雑度が徐々に高まるにつれて、完了時間は指数関数的に増加することがわかります。例えば、コードリポジトリをゼロから作成したり、非常に複雑な機能を実装したりするといった極めて複雑なタスクを行う必要がある場合、数日甚至は数週間を要することになります。

しかし、並列処理が可能であれば、例えば 100 個のエージェントを同時に起動してこのタスクに取り組ませ、その過程で互いに協力し、調整を行い、次に何をすべきかを計画するといったことができれば、まるで人間の組織のように機能します。そうすれば、タスクの複雑度が増加しても、実行時間に大きな変化はありません。これは、単位時間あたりにより複雑なタスクを完了できることを意味し、従来は全く不可能だったと見なされていたタスクさえも実現可能にします。

例えば、ある企業が極めて困難なことに挑戦し、複雑な使命を達成しようとする場合、0 から 100 億ドル、あるいは 1,000 億ドル規模の企業を構築するといったことを想定してください。もしそれを一人だけで行おうとすれば、完成までに 100 年かかるかもしれません。そうなれば市場での競争力は失われますが、もし 100 人または 200 人の非常に賢い人材が集まり、協働できれば、短期間での達成も可能になります。

エージェント・クラスタの能力を活用することで、規模化された入力を実現できます。例えば、同時に数百もの異なるデータソースを調査し、信頼性の高いデータ源の中から答えを探し出すことが可能です。また、規模化された出力も実現でき、これらのデータソースを読み込んで数百ページにわたる論文を作成することもできます。さらに、規模化された実行や規模化されたオーケストレーションを行うことで、モデルが処理できるタスクの複雑さを向上させることができます。

同時に、私たちはより優れた基盤となるネットワークアーキテクチャの開発にも注力しています。これが私たちが最近オープンソース化した最新のモデルアーキテクチャであり、「アテンション・リザイダル（Attention Residuals）」と呼ばれています。この技術の主なインスピレーションは、10 年前に登場した「ResNet」や「残差ネットワーク接続」と呼ばれる技術から得られています。

10 年前は、誰も深層ニューラルネットワークを訓練する方法を持っていませんでした。しかし、ヘ・カイミン（何凱明）ら研究者が残差ネットワークを導入したことで、モデルが数十層、数百層のネットワークを訓練できるようになり、層数を自由に増やすことが可能になりました。

この残差構造は、LSTM ネットワークの変種とみなすこともできます。ただし、LSTM は時間の次元に適用されるのに対し、残差ネットワークはネットワークの深さに焦点を当てています。これにより、各層が直前の層の出力を受け取り、関数処理を行うことで現在の層の出力を得ることができます。

私たちはこの考え方を自然に一般化し、アテンション・メカニズムという計算パターンを 90 度回転させました。もともと時間軸上でのみ適用されていたものを、今度は深さの次元にも適用できるようにしたのです。アテンションを深さに適用することには多くの利点があります。例えば、直前の層の出力に基づいて計算するだけでなく、過去のすべての層の出力を組み合わせて計算できるようになるため、ネットワークアーキテクチャのパフォーマンスを最適化する際に非常に大きなメリットがあります。

これがアテンション・リザイダルの全体アーキテクチャ図です。左側が標準的な残差構造で、右側が私たちが提案しオープンソース化した残差構造です。また、ブロック状の残差構造も設計しており、非常に効率的に実装できるようにしました。わずか 2% の追加コストだけで、パフォーマンスを大幅に向上させることが可能です。

先ほど申し上げた通り、大規模言語モデルの第一原理はスケーリング法則（Scaling Law）ですが、私たちは単に力任せでスケールするだけでなく、スケールしながらも効率を向上させることを目指しています。そのため、より強力なモデルアーキテクチャの開発に注力してきました。例えば、Adam オプティマイザやアテンションアーキテクチャ、残差接続などは、すでに 10 年以上の歴史を持つ技術です。コンピュータサイエンスの分野において、10 年という期間は非常に長い時間です。過去 10 年間、これらの技術を挑戦する者はおらず、誰もがこれを標準として受け入れていました。

しかし現在、計算資源の向上と研究手法の変化により、従来の学術中心でアイデア（idea）のみから出発する研究から、エンジニアリングとの連携を重視し、非常に堅牢なスケーリング検証実験を設計して確固たる結論を得るスタイルへと変化しています。その結果、以前は標準と考えられていた多くのものが、今では挑戦可能となっています。

私たちは、オープンソースモデルが新たな標準へと成長しつつあることを確認しています。これらは直近終了した英伟达（NVIDIA）の GTC 2026 大会における黄仁勲氏の基調講演から抜粋したスライドです。Kimi K2.5 を代表とするオープンソースモデルは、世界中のすべてのチップメーカーがハードウェア性能をテストするベンチマークとして採用されています。新しいチップを発表する際、その性能向上幅を評価するために Kimi や他のオープンソースモデルが用いられます。

現在、世界中の多くの研究機関も、Kimi K2.5 やその他のオープンソースモデルを用いて研究を進めています。私たちはオープンソース化を通じて、あらゆる企業、研究者、そしてエンドユーザーが、極めて低いハードルで知能（AI）にアクセスできるようにすることを目指しています。これは非常に重要な意義を持つことです。

同時に、私たちが行った多くの重要な革新、私が先ほど言及した新しいアーキテクチャもすべて公開されており、誰でも利用可能です。最終的には、皆でオープンソースエコシステムを形成し、AI 分野の発展を共に推進していくことを目指しています。

最後に、モデル訓練の観点からお話ししますと、大規模言語モデル（LLM）分野は依然として急速に発展しており、現在の研究開発手法は 2〜3 年前とは大きく異なっています。

2023 年と 2024 年は、主に「天然」データが使用されていました。これはインターネット全体から収集されたデータに、価値観や嗜好に合致しているかなどを人手でラベル付けした少量のデータを加えたものです。

2025 年には、大規模な強化学習（Reinforcement Learning）システムの構築により、より高い重視が置かれています。ただし、これは人間が高品質なタスクを選別し、その上で強化学習を適用してより良い成果を得るというアプローチです。プログラミングや数学分野における能力向上は、主にこの技術路線によるものです。

2026 年以降、そして今後数年間にわたって、AI の研究開発手法には大きな変化が生じます：AI が主導する研究がより多く行われるようになります。各研究者には膨大な数の AI トークンが付与され、これらの AI トークンは新しいタスクの合成や、新たな環境の構築を支援し、その環境下で最も適切かつ最適な報酬関数（Reward Function）を定義することも担います。さらには、新しいネットワークアーキテクチャがどのようなものになるかを探索することさえも可能になります。

したがって、AI の研究開発全体も徐々に加速していくでしょう。私たちはオープンソースコミュニティ全体と協力し、より良いエコシステムを構築することで、技術を不断に前進させ、知能の上限を探求する速度を加速させることを目指しています。

ご清聴ありがとうございました。

通し動画の再放送：

最新アップデート

QR コードを読み取れば、あなたの Kimi ロブスターが「WeChat（微信）」に接続されます

10 万人が実際に試して好評：OpenClaw 一鍵インストーラーが新登場

Kimi Code Plan が正式にアップグレード：引き続き 3 倍のクォータを享受可能

Kimi API：90% のキャッシュヒット率で価格を 25% に引き下げました

Kimi で OpenClaw を利用できるようになりました

技術レポート：Kimi K2.5 はどのようにしてテキストと視覚能力を相互に強化しているのか？

PPT だけでなく、Kimi K2.5 Agent が Excel、Word、PDF の作成も支援します

Kimi が K2.5 モデルを発表しオープンソース化。新たな視覚理解、コード生成、およびエージェント（Agent）クラスタ能力をもたらす

WeChat で開くにはこちらへ