北米大手 CTO の Anthropic 移籍と RSI 議論

【随筆】RSI について考える

北米のテック業界では、新しい造語が好まれる傾向があります。その一つが「RSI（Recursive Self-Improvement：再帰的自己改善）」です。

今年4〜5月頃、Workday、Instagram、Box、Super.com、You.com など大手企業の CTO たちが相次いで Anthropic を目指し、IC（Individual Contributor）として参画しました。これは北米の AI 業界で何かが起きていることを示唆しています。

RSI という言葉自体は数ヶ月前から、北米の知人たちと議論していました。当時は明確な定義はなく、「Auto-Research」や「Auto-Improvement」といった表現が使われていました。私もその頃から quietly 取り組みを開始し、6月初旬に『Agentic Workflow を用いた大規模モデルによる全栈研究』という記事を投稿しました。

この分野の進展は着実です。最近では、Sam Altman が RSI を活用して北米でさらに7500億ドル規模の投資を計画しているとの噂も流れています。同時に、Twitter 上で関連する投稿が相次ぎました。

また、ある著名人が『Harness Engineering for Self-Improvement』というブログ記事を執筆したとの情報もあります。この方は TML を離れ、OAI へ迅速に合流しました。これにより、RSI の重要性が公的に認識されつつあります。

さらに、梁老板の会議録音も流出しており、そこでも RSI に関する内容が明確に語られています。

OpenAI と Anthropic はともに独自チップの開発を進めており、Anthropic は Fable 5 で新たな制限を導入しました。

こうして、RSI を全栈の視点から捉えた全体像が次第にはっきりとしてきました。

ちなみに、X（旧 Twitter）で「@zartbotF」というアカウントを開設し、日常的な場面で少しカジュアルに愚痴を言うために使っています。例えば、RSI について適当に愚痴りたいと思ったこともありますが、「これくらいでいいや」と思った矢先に、結局は真面目に記事を書くことを強要されてしまいました。

さて、本題に入りましょう。

1. フルスタックな RSI とは？

ここ数年、私は自分自身を「RSI（自己再構築）」の過程に置き、AI をより多角的に捉えようと努めてきました。トップレベルのアルゴリズムや数学的な背景から始まり、中間層の演算子やフレームワーク、そして最終的にチップやクラスターに至るまでです。そこには膨大な数のエンジニアリングにおけるトレードオフが存在します。

ちょうど先日、OO 氏が転載した記事を読み、深く感銘を受けました。

最近、別の仕事として Kimi K3 のモデルアーキテクチャを分析しています。数学とエンジニアリングの観点から詳細に分析した記事『Attention は Sparse なのか Linear なのか？詳しく分析する』も書きましたが、これは K3 の技術報告書が公開される前に執筆されたものです。報告書を拝見した後、KDA や Gated MLA、Blocked AttnRes について深く分析し、さらにトレーニングプロセスにおける各ヘッドごとの MoE（Mixture of Experts）の深い協調の問題についても考察しています。

これらについての分析は近日中にまとめ、皆様にご報告する予定です（催促しないでください。週末に残業して書き上げますから…）。

ただ、大まかな推測としては、このモデルはトレーニングにおいていくつかのコンポーネントが連携することで非常に極限まで最適化されているようです。また、Topk を倍増させたにもかかわらず Latent MoE によって通信量を削減するなど、各方面でよく工夫されています。しかし、推論においてはこうしたアーキテクチャにまだ性能上の課題が残っており、今後の RL（強化学習）の Rollout 効率に大きな影響を与える可能性があります。さらに、RL トレーニングの安定性にも影響を及ぼしているのでしょうか？その答えは内部関係者だけが知っていることでしょう…

なぜ「フルスタック」が必要なのか、少し脱線した話をしましょう。

先日、廖博（リャオ・ボー）氏へのインタビュー『昇騰史、18 層の宝塔、そして世界の半導体産業を貫く 30 年の壮大な史诗——華為半导体首席科学家廖恒氏への 5 時間インタビュー』[2] を読んでいました。私の経歴は廖博氏と似ている部分がありますが、もちろん年齢はずっと若いです（笑）。私は 10 歳になる前にはすでにパソコンを使い始め、国内のインターネット黎明期を体験した世代です。90 年代末のインターネットバブルも丸ごと経験しました。数学や物理、そして競技プログラミング（OI）にも取り組んでおり、幸運にもある大学の特別クラスに推薦入学できました。しかし、自分自身を RSI する過程で、私は数学科を選び、数十もの数学の講義を受講しました。

その後、インターネットバブル時代に特に憧れていたシスコシステムズに入社し、廖博氏が語る独占による市場の低迷について深く感慨を抱きました。10 年以上勤め、必要なことはすべて学びました。そして 2018 年からはシスコ内部で AI インフラの開発に取り組み始め、自費で GPU を多数購入しました。なんと 2020 年には、同社内で最初の Ethernet ScaleUP も実現しています。しかし、結局は北米のベテランたち（老いた人々）に付き合うことが難しくなり、退職することになりました…

近年、私の主な研究・開発領域はチップ間接続（Chip Interconnect）です。同業者たちと協力し、すでに世界トップクラスの地位を確立しました。スケールアウト（ScaleOut）分野では、NVIDIA のベテランエンジニアたちが3年間も追いつけなかった状況ですが、来年には全面的に彼らを凌駕する見込みです。スケールアップ（ScaleUP）の標準規格をめぐる激しい競争が一旦落ち着けば、この領域での成果もすぐに完成させるつもりです。

一方、国内で一部の技術者が白人のベテランたちにならって無謀な試みを続けている姿を見ると、思わず笑ってしまうこともあります。また、計算用チップのマイクロアーキテクチャについても、すでに明確な答えが出ています。最近、社内ではいくつか分析記事を書きましたが、外部には公開できません。

ここ数年はクラウドベンダーで弾力的なコンピューティング（Elastic Computing）に携わり、大規模インフラ（Infra）に関する経験もほぼ蓄積しました。さらに、長年にわたるアルゴリズムと数学への研究も積み重ねてきました。2024 年に私が執筆した『計算リソース制約下の大モデルの発展と AI インフラ基盤』という記事を読み返せば、私の予測がどれだけ正確だったか理解いただけるはずです。

当時、アテンション（Attention）のスパース化や MoE（Mixture of Experts）はまだ主流ではありませんでした。DeepSeek-V2 が発表される前さえも、CIPU 2.0 の流片（ウェハへの転写）前に、MoE が AlltoAll 通信の問題を完全に解決できる見通しを立てていました。

18 レイヤーの統合は非常に困難です。特に人材に対する要求が厳しく、数学やアルゴリズムの観点からモデル構造を深く評価する能力と、チップアーキテクチャやメモリアクセスの詳細な理解という二つの要素が不可欠です。この 18 レイヤーを完全に制覇できる人はそう多くないでしょう。

ここで少し厚かましく言わせていただくと、チップ業界では私ほどモデルに詳しい人はいませんし、モデル・アルゴリズム業界では私ほど数学に精通した人はいません。そして、純粋な数学の研究者でも私ほどチップの詳細を知っている人はいないのです。ハハハ。

全スタック（Full Stack）の視点に立つことで、局部的な最適化に惑わされることはありません。例えば、アテンションの選択についてです。北米のように計算リソースが十分にある環境では、なぜスパースや線形処理などを行う必要があるのでしょうか？EOT の観点から見れば、SDPA（Scaled Dot-Product Attention）が最良の選択肢です。上記の図にある「猛禽 3 代」がその例です。

一方、国内には計算リソースが不足するという前提があります。梁氏のようにスパース化という道を一貫して歩み続ける姿勢は羨ましいものです。数世代にわたり MoE を完成させ、最近ではアテンションの最適化に取り組むなど、モデルアーキテクチャ全体を非常に明確な視点で捉えています。

しかし、他の企業には技術的な揺らぎが見られ、あるいは誤った道に進んでしまったケースもあります。そのため、前述の図で K3 を「第 1 世代の猛禽」と呼んだのです。線形処理の問題を解決するためには、ハイブリッド構造は避けられません。線形処理自体にも小さなコンボリューション（CONV）を追加する必要があり、V で構成される確率单纯形（Simplex）の観点から見ると、多層の線形処理は収縮（Collapse）を引き起こします。そのため、最後に Gated MLA を追加して救済する必要があります。

非常にシンプルな論理です。判断がつかない場合、重要な変数を 2〜3 オーダー拡大してみましょう。例えばコンテキスト長を 5M にした場合でも、線形処理の状態行列はそれを明確に表現できるでしょうか？必ずしもそうとは限りません。

これは Kimi K3 の評価が悪いという意味ではありません。モデル構造全体に非常に重い要素（KDA + Gated MLA + Blocked AttnRes）を追加し、線形処理の欠陥を巧みに補完しています。しかし、本当にこれほど多くの要素が必要なのでしょうか？重すぎる設計は推論時に多くの制限を生みます。また、モデル構造が深すぎること自体にも問題が生じます。これは Raptor 1 と Raptor 3 の差に似ています。多くの場合、アルゴリズムは「大道至簡（大いなる道は至ってシンプル）」であるべきです。

一方で、DeepSeek の CSA におけるオーバーラップ処理は巧妙に多くの問題を解決しています。しかし DS にも誤りがあります。例えば、CSA があれば Engram の価値は低下し、HCA はあまりに暴力的で大きな価値がないかもしれません。こうしたトレードオフは、チップの視点や数学的な頂点からの視点で見れば明確に見えます。これが私が全スタックの重要性を強調する理由であり、「Less is more（少ないほど良い）」という考えです。

次に、国内の文脈において「全スタック RSI」の相対的に完全な定義を与えましょう。

モデル開発の観点からは、推論と学習のコストを十分にバランスさせ、アルゴリズムの段階で国内の計算資源における世代差の問題に対処する必要があります。計算リソースの制約に直面した課題については、適切な手段を用いて比較的容易な相互接続領域へ転換し、その上でさらに効率的なアルゴリズムを探求します。あるいは、チップ・アルゴリズム・数学の三者による協調設計を推進し、自主的な反復最適化を通じて高効率な基盤モデルを構築することです。

こうした土台の上に、Agent Harness の機能を実装し、モデルが自律的に学習・探索する能力を徐々に確立していきます。この取り組みは単に基礎モデルのアーキテクチャや数学、チップとの連携に限られるものではなく、むしろ Agent Loop や Agent Graph の設計、ならびに環境や経験に基づく継続的な学習に重点が置かれます。

前述したのはアルゴリズムに関する制約であり、次項では具体的な解決手段について論じます。

1. 考慮すべき重要な問題

RSI（自己再帰的改善）を議論する際、最も本質的な哲学的問いは「システムが自らのコードを変更できるか」という点ではありません。むしろ、以下の点を問うべきです。

システム自身が「何がより良いか」の評価基準さえも変更できる場合、なぜ私たちはその変化をなお「改良」と呼ぶことができるのか？

RSI はまず三つの階層に分類して考えることができます。

• 工具級 RSI：プロンプト、データ、検索、コンパイラ、あるいは学習プロセスの改善であり、評価基準は不変です。
• 架構級 RSI：モデル構造、学習アルゴリズム、記憶機構、推論メカニズムの変更を指します。
• 規範級 RSI：目標、価値観、評価器、そして「改良」そのものの定義を変更する段階です。

前二つの階層は主に工学的課題ですが、第三の階層こそが真に困難な哲学的問題を含んでいます。

1. RSI の形式化における困難さ

システムを時間 t における状態として表すと以下のようになります。

S_t = (C, E, V, I, G)

ここで各要素は以下を表します：

• C：能力（capability）
• E：認識論的評価器（epistemic evaluator）
• V：価値と目標構造（values and goal structure）
• I：アイデンティティおよびバージョン間での約束（identity and cross-version commitments）
• G：ガバナンスおよび権限付与メカニズム（governance and authorization mechanisms）

通常の最適化では、能力 C だけが変化します。

S_{t+1} = (C', E, V, I, G)

この場合、評価器 E と価値 V は基本的に不変であるため、S_t と S_{t+1} を比較することが可能です。

一方、完全な RSI ではシステム全体の状態が変更される可能性があります：

S_{t+1} = (C', E', V', I', G')

より明確に記述すると：

S_{t+1} = f(S_t, ΔC, ΔE, ΔV, ΔI, ΔG)

このとき、「S_{t+1} が S_t より優れている」と主張するには、バージョン間を跨ぐ比較関係が必要です。

S_{t+1} ≻ S_t ⇔ R(S_t, S_{t+1}) = true

ここで R は、新しいシステムによって恣意的に書き換えられない参照条件です。これには以下が含まれます：

• 外部現実における実験検証
• 独立した評価器による判定
• 人間の権限付与
• 憲法的制約（コンスティチューショナル・コントラクト）
• バージョン間での継続的な約束
• 巻き戻し可能性と修正可能性の要件

もしこのような参照条件が存在しない場合、システムは能力 C を向上させるのではなく、評価器 E や価値 V を変更することで「すでに改良された」という結論を捏造する可能性があります。これを「評価器キャプチャ（evaluator capture）」と呼びます。

RSI の変更を評価する際には、少なくとも以下の問いに答える必要があります：

• 変更される「自己」のどの部分が対象となるのか？
• 能力、評価器、価値、アイデンティティ、ガバナンスメカニズムのうち、どれが変化するか？
• 「改良」とは何と定義され、その定義権限は誰にあるのか？
• 新しいバージョンは、自身が設計・観測していないテストを受け入れるか？
• どの約束をバージョン間を通じて維持する必要があるのか？
• 新しいバージョンは、権限なくこれらの約束を再解釈できるか？
• 変更は取り消し可能か？
• 旧バージョンは候補となる変更を本当に理解しているか？
• 独立したシステムが改善結果を再現できるか？
• 変更によって新たな故障モードは導入されたか？
• 判断を誤った場合、そのリスクを誰が負うのか？
• 能力の向上が同時にシステムの権限拡大をもたらす場合、その根拠は何なのか？
• どのような証拠があれば変更の拒否または巻き戻しが行われるのか？
• 停止条件は存在するか、それともシステム自身が継続的な自己改変を究極目標とみなしているか？

1. 結論

RSI は単一の課題ではありません。工具級、架構級、規範級の RSI にはそれぞれ異なる哲学的・工学的要件が伴います。

最も困難な問題は「評価器の連続性」です。システムが成功の定義を再書き換えできる場合、「改良」という概念は循環論証に陥る可能性があります。

能力と知恵は同一の変数ではありません。予測や最適化能力が強まっても、自動的に目的や実践的判断が良くなるわけではありません。

深い自己改変の後でも、アイデンティティの連続性はデフォルトで保証されません。権限、約束、責任については、バージョン間を跨ぐ明確な意味論的定義が必要です。

完全な内部自己認証は達成できません。形式検証には、実験テスト、独立評価、継続的な監視を組み合わせたアプローチが不可欠です。

価値の安定には、二つの相反する失敗モードが存在します。完全な凍結は初期の誤りを固化させてしまいますし、恣意的な変更は目標の漂移（ドリフト）を招きます。

RSI（自己改善システム）の本質もまた、ガバナンスの問題です。提案、評価、権限付与、デプロイメント、そしてロールバックは、それぞれ分離されるべきです。

実際のインテリジェント・エージェントは、社会技術システムとして機能します。モデル、ツール、ハードウェア、人間、そして制度が相互に関わり合いながら、再帰的な循環を形成しています。

システムの能力や影響の規模、不透明性、不可逆性が高まるほど、必要なエビデンスと権限付与のハードルも高くなるべきです。

RSI が直面する最も深層な課題は、自己改善（self-improvement）そのものではなく、自己統治（self-government）にあります。常に変化し続ける主体が、いかにして修正可能で、説明責任があり、理解可能かつ信頼できる状態を維持するか——これが問われています。

参考となる哲学的視点

GPT 5.6 に適当に書かせてみた文章ですが、これらの視点を元に「エージェント・ハーネス」や「エージェント・グラフ」を設計し、それらが自己進化していく様子をシミュレートするのは非常に興味深い試みです。

多くの機密事項について言及できず、最終的に自分自身に言い聞かせている結論があります。「人間が愚かならば、より多く読書をするべきだ」。RSI の人肉（実地検証）を続け、モデルの進化速度に追いつくしかない。

参考文献

[1] Harness Engineering for Self-Improvement: https://lilianweng.github.io/posts/2026-07-04-harness/

[2] 対華為半導体首席科学者の廖恒氏への5時間インタビュー：昇騰史、18層の宝塔と世界半導体の30年を語る壮大な叙事詩: https://www.bilibili.com/video/BV1nB3u6tERu/?buvid=XX449D54D7F4D07C24100F83F33927AD51E04&vd_source=ad2179257397c1293fb6a8f4e10fd2ae

WeChat で開くにはこちらへ