Microsoft Build でサティア・ナデラ氏と「No Priors」が共演、フロンティア知能プラットフォームを強調
Microsoft の Satya Nadella CEO は、Build 2024 で開催されたポッドキャストクロスオーバーイベントにおいて、AI を単なるツールではなく、顧客が独自価値を創出できる「エコシステムプラットフォーム」として再定義し、OpenClaw や Work IQ などの新技術による企業への ROI と SaaS の終焉を示唆した。
キーポイント
Frontier Intelligence Platform の再定義
Nadella は Microsoft を「単一のプラットフォーム」ではなく、顧客が他社の AI も活用しつつ独自の価値を創出できるエコシステムとして位置づけ、OpenClaw や Scout などのマルチモデル・ハーネスの重要性を強調した。
企業文脈と Token IP の確立
Work IQ をはじめとするコンテキストレイヤーを活用し、企業のプライベートな評価データやトレーシングを「トークン IP」として新たな資産価値として捉える戦略を示した。
SaaS の終焉と ROI の再評価
Tokenmaxxing やレイオフの課題がある一方で、ビルド vs バイヤーの方程式が変化し、従来の SaaS モデルの見直しが迫られているという企業経営者の本音に答えた。
不可能を可能にする社会への応用
Kevin Scott の提唱する通り、教育や社会的インパクトといった広範な課題に対し、AI と技術を最大限に活用して「不可能を可能にする」野心的なビジョンを共有した。
MAI モデルのトレーニング戦略とクリーンな系譜
Microsoft は高品質なデータを用いた事前学習とアブレーション分析を通じて「クリーンな系譜」を持つモデルを構築しており、これは多くのオープンウェイトモデルがベンチマークでは優秀でも実用性で劣るという課題への対応である。
企業向け特化型 AI のための「ヒルクライム・スキャフォールド」
一般モデルをベースに、企業が独自の専門知識(特化型)を構築できるよう、RLE(学習と評価のサイクル)やトレーシング収集、そして最も重要な「プライベートな評価指標」を含むプラットフォームを提供する。
小規模モデルによる推論能力の向上
大規模モデル(例:GPT-55)から収集したトレースを活用し、5B パラメータ程度の小規模な推論モデルでも高い性能を達成できることを示すことで、コスト効率と実用性の両立を図っている。
重要な引用
a platform is defined by fundamentally its ability to create more value about the platform versus what's captured in the platform
customers must gain much more value from the Microsoft ecosystem than Microsoft itself
building up private evals and traces as a new form of Token IP
「In fact, that's one of the challenges of a lot of the open weight models is they look great on one benchmark or two, but they're not great on practice.」
「Most importantly, you'll have private evals because we know all the evals out there are good, interesting, but they're not really that critical... And so the point is each company will have its own private eval.」
intelligence is log of compute kind of works
影響分析・編集コメントを表示
影響分析
この記事は、Microsoft が AI 競争において単なるモデル提供企業から、企業の独自データと文脈を統合し、顧客が独自の価値を生み出す基盤を提供する「エコシステム・プロバイダー」としての地位を確立しようとする明確な戦略転換を示している。特に「トークン IP」や「SaaS の終焉」という概念は、今後数年間のエンタープライズ AI 市場における競争の焦点がモデル性能からデータ活用とビジネス統合に移行することを示唆しており、業界全体のパラダイムシフトを加速させる重要な信号である。
編集コメント
Nadella CEO の発言は、Microsoft が AI 競争において「モデルの性能」だけでなく「企業文脈との統合」という新たな勝敗の分かれ目を見据えていることを如実に示しています。特に「トークン IP」という概念は、データ所有権と価値評価の新しい基準となる可能性があります。
私たちは非公式に、サティア・ナデラ氏がここ数年 LS を聴取していることを聞いていましたが、ビルドで彼にお会いし、私たちが大変尊敬する主要な VC AI ポッドキャストである No Priors の仲間たちと共にライブポッドを収録することは、まさに夢のような出来事でした。
MAI モデルの技術的な知見については昨日の AINews で取り上げましたので、サティア氏の主なメッセージに関する振り返りは、以下の 3 つの要素に焦点を当てます:
サティア氏によるビル・ゲイツの名言の適応版として、Microsoft を「フロンティア・インテリジェンス・プラットフォーム」として位置づけること。顧客は、OpenClaw や Scout といったマルチモデル・ハーネス(multi-model harnesses)を基盤とし、Work IQ(彼の C スーツメンバーが徹底的に活用している)のようなコンテキスト層によって露呈される全体的なエンタープライズ・コンテキストを活用し、プライベートな評価とトレースを新たなトークン IP として構築することで、Microsoft エコシステムから Microsoft 自身よりもはるかに大きな価値を得なければならないのです。
AI の ROI(投資対効果):一方では、企業は「Tokenmaxxing」や人員削減について困難な議論を行っており、他方では Build vs Buy の方程式が大幅に変化したことで、SaaS の終焉に関する真剣な再評価が行われています。以前の SemiAnalysis のゲストは、この点における Microsoft の立場(究極の SaaS 巨人としての)について興味深いコメントをしていましたが、サティア氏は素晴らしい回答を示しました。
不可能を可能にする:ケビン・スコット氏が提唱する、教育や社会的インパクトといったビジネスや社会問題に対して AI やテクノロジーを最大限に活用するという、最も野心的なバージョンの意義に関する刺激的な枠組みです。
お楽しみください!
フル動画
文字起こし
ナレーター:スワイー、サラ・グオ、エラド・ギル、そしてマイクロソフトの会長兼最高経営責任者(CEO)であるサティア・ナデッラをお迎えします。
サラ・グオ:『No Priors』と『Latent Space』のクロスオーバー番組へようこそ。サティア・ナデッラさんです。素晴らしいビルドイベント、おめでとうございます。いや、こちらこそありがとうございます。二人と一緒にいられてとても嬉しいです。私はいつも二人の podcast を拝聴していますし、こうして出演できるのも光栄です。
サラ・グオ:本当にありがとうございます。[00:01:00] さて、今朝マイクロソフト全体から発表された素晴らしいニュースについて、3 時間ほどお話しされていましたね。その中で最も重要な考察や学びは何でしょうか?
AI をエコシステムプラットフォームとして
サラ・グオ:私にとって、おそらく最も重要なのは、これを単一のモデルや単一のプラットフォームとしてではなく、より広く「エコシステムとしての取り組み」として捉え直すことだと思います。
サティア・ナデッラ:そうですね。少なくとも私にとっては、マイクロソフトで育ち、4 つの主要なプラットフォームシフトを目にしてきた者として、私はある特定の考え方に属しています。それは、プラットフォームの本質的な定義は、プラットフォーム内で捕捉される価値よりも、プラットフォームによって創出される付加価値がどれだけ大きいかにかかっているという考え方です。つまり、今起きていることを見れば、今日の基調講演でも示されたように、AI ネイティブ企業であれ伝統的なエンタープライズ企業であれ、自らが創造した AI を指し示せる「第一級の参加者」として参画できるかが問われています。
[00:02:00]
彼らが他社の AI を使っていないわけではありません。もちろん利用します。しかし私にとって重要なのは、その道筋は何か?レシピは何か?どうやって行うのか?スタックはどのようなものか?ツールリングはどうなっているのか?何が価値あるのか?それをどう実現するのか?それがまさに私たちの仕事です。はい。エコシステム戦略は、えーと、非常に複雑ですよね。
Sarah Guo: 結局、特定のコンポーネントを自社で構築し、他の特定のコンポーネントについてはパートナーシップを結び、それらをサポートすることになるからです。あなたは最近、大規模なモデルスイートを発表されましたね。Microsoft の現在のトレーニング戦略について、少し詳しく教えてください。はい。
MAI モデルとトレーニング戦略
Sarah Guo: 私たちが MAI モデルで目指したのは、Mustafa が話していたように、まず第一に優れた系譜(lineage)を構築することです。
Satya Nadella: 事前学習(pre-training)から始め、非常に高いデータ品質を確保し、すべてのアブレーション(ablation:要因の除去による検証)を行います。なぜなら、ある意味では、世の中に溢れる情報があまりにも多いため、クリーンな系譜を持つモデルを構築することが以前よりも難しくなっているからです。素晴らしい [00:03:00] 事前学習済みモデルを得るためには、本当に不要な要素を徹底的に排除する必要があります。
実際、多くのオープンウェイト(open weight)モデルの課題の一つは、特定のベンチマークや数個のテストでは優れた結果を示すものの、実際の運用ではそうではないという点です。そのため、RFDEs(注:文脈上の用語、原文のまま)でさえも、これらの MAI モデルに非常に興奮しているのです。なぜなら、小さな 5B モデルがどのようにしてヒルクライム(hill climb:最適化手法の一つ)を達成できるのか、その方法が全く理解できないからです。
はい、それは最終的に最も重要なこと、つまり認知の核心を見つけようとする試みに少し遡ります。私にとって重要なのは、クリーンな系譜から始め、企業がこれを利用できる能力を創出することです。一般化されたものとしてだけでなく、その周りに「ヒルクライミング・スキャフォールド」を構築して独自の専門性を生み出すことなのです。
つまり、モデル単体ではなく、その周囲にヒルクライミング・スキャフォールド(山登り用足場)を設けることで、RLE(強化学習の一種)の構築が始まり、トレースの収集も始まります。最も重要なのは、独自のプライベート評価(evaluations)を持つことです。なぜなら、既存の評価はすべて有用で興味深いものですが、[00:04:00] 実際にはそれほど決定的な重要性を持たないからです。それらは作業の一部に過ぎません。
Swyx:現時点では、これらすべての評価を最大限に活用できてしまうためです。つまり、各社が独自のプライベート評価を持つことがポイントとなります。モデルを中心としたこのエンドツーエンドのプラットフォームストーリーこそが、私が面白いと感じる部分なのです。そしてもう一つ、サラ、あなたがその話題に触れたので付け加えますと、新たなフロンティアがあると感じています。
Satya Nadella:人々はよく「フロンティア」について語り、「あなたはフロンティアで活動しているか」と問います。興味深いことに、そこに少し時間的な要素を加えれば、例えば先ほど紹介したランド・レイクスのデモのように、GPT-55(仮称)のようなモデルを使用し、多くのトレースを収集した後、推論能力を持つ 5B モデルを採用することで、より高い成果を達成できるのです。
Sarah Guo: ええと、つまりこれは「フロンティア(最前線)」で運営することの意味するところの別の側面でもありますね。はい、まず、2 年という短期間でマイクロソフト内にフロンティア・ネオラボを構築されたことを心から称賛いたします。さて、現在展開されている AI ストラテジーについて伺いたいのですが。
AI 開発 2 年の教訓
Swyx: もし今、2 年前や 3 年前(Jensen とのパートナーシップは 3 年、MEI は 2 年)に自分自身に伝えたいことがあれば、それは何でしょうか?私がよく振り返る点は、明確な事実として、私は「スケーリング・ロー(Scaling Laws)」論文に興奮したことでこの分野に入り込みました。また、OpenAI とのパートナーシップが成立した際にも、その方々が「私たちは大量のコンピューティングトランスフォーマーを投入する」と言ったことが大きな要因でした。
Satya Nadella: はい、彼らは確かに貢献してくれました。私がいつも振り返って言うのは、「Wow(驚き)」です。これらの技術には、確実に能力があり、それが上昇しているという事実があります。つまり、この少し乱暴な言い方をすれば、「知能は計算資源の対数に比例する」という考え方はある程度成り立ちます。しかし、私が私たちが過小評価していたかもしれないと思うのは、これらを実際に現実世界で価値を生み出すように展開することにおける、現実世界の複雑さです。
So the outcomes as measured by any benchmark is interestingly important, but the true eval is when people out there are able to do unique things that they only can value, and it's very [00:06:00] measurable, right? That I wish we had sort of even, like, had more in our consciousness, right? Which is as an industry.
Sarah Guo: Because right now I think when people say, "Wow, I don't want a token max," it's an artifact of us not having thought ourselves as an industry that we are using tokens to create value every step of the way. So I think that's kind of what I wish we had gotten there, but I'm glad we are here.
Real-World Value & Use Cases
Sarah Guo: What are some of the use cases that you've seen that have created the most value for your customers?
Because I know that people talk a lot about code, and I think it's pretty clear that that's something that's having very large scale impact. Are there other areas that you find in common that your customers are really benefiting from? Yeah. I think, yeah, to your point, obviously coding is now got... But it's interesting, by the way, Elijah, to even talk about the coding, right?
Satya Nadella: コーディングがこれほどまでにうまく機能しているため、私たちは今や IDE を再構築しなければならないのですよね?私が言いたいのは、私たちが立ち上げたものがどれほど素晴らしいかを見ると、神様、私は百ものエージェントセッションを持っている。この認知負荷が人間である私に戻ってくるのがあまりにも[00:07:00]過剰なので、新しい UI が必要なのです。あ、そうそう、チャットを唯一の成果物とするのも不可能だったので、だからこそキャンバスが必要なのです。
したがって、ソフトウェアや UI がどこで必要とされるかという点について、すべてが興味深いものです。コードについても同様です。完全にエージェント化された世界においてさえ、それは必要となります。しかしその一方で、私たちが目にし始めていることのひとつは、Co-work で見始めたことですが、Auto-Com(自動補完)や autopilot(自律パイロット)で示した作業の一部もそうです。Claws でお見せしているものは良い例です。なぜなら、多くの人的資本が接着剤的な仕事(glue work)を行っていると考えれば、それをトークン/エージェントによって拡張し、長期間実行可能で耐久性のあるものとして扱えば、まだ判断や接着剤的な仕事とされるもののスケーラビリティも、コーディングと同様に増幅されるからです。つまり、6 ヶ月後には私たちは皆、「おっと、すごい」と言うようになるでしょう。夜中を通じて、私が委任権限をもって私に代わって作業している多くの autopilot(自律パイロット)が動いていたのです。
[00:08:00]
私は…自分のアイデンティティをある程度与えられたとしても、多くの作業を行い、当然ながら新しい ADE が必要になります。「さて、何をしたのか?」と。例えば、「私がこの作業を行ったのだろうか?」などと考えます。そこで、ワークフローの圧縮やタスクの完了においてこそ、多くの価値が創出されると考えています。非常に興味深い点を指摘されましたね。実際にコードを実行するエージェントがあり、その周囲にはハネス(harness)が存在し、それが環境であり文脈であり、コーディング・エージェントを扱う開発者が設定するすべての要素です。
エンタープライズ AI におけるハネスの概念
Sarah Guo: エンタープライズにおけるハネスとは何でしょうか?より広範な生産性業務においても同等の概念が存在するのか、あるいはこの概念をどのように一般化して捉えるべきだとお考えですか。その通りです。ある意味で、ハネスはモデル、データ、そしてツールを定義するものであり、これら 3 つの間を循環させるループが必要となります。
Satya Nadella: 私たちがまず目指しているのは、GitHub Copilot やセキュリティ関連の [00:09:00] の MDASH で示したようなもの、あるいは科学分野でのディスカバリーなど、私たちが構築するすべての製品において、それぞれがマルチモデル・ハネス(multi-model harness)であり、ツールへのアクセスを可能にすることです。これにより、ツールを段階的に開示し、トークン効率を高めることが可能になります。
そして、非常に豊富なコンテキスト(context)をモデルに与えることになります。なぜなら、過去 2 年間で私たちが学んだもう一つの重要な教訓は、計画を最も効率的な方法で実行できるようにするために、コンテキスト層の準備にどれほどの労力が必要かという点にあります。こここそが真価が発揮される場所なのです。私たちの場合、GitHub ハーネス(harness)を持っており、これは事実上すべての製品で活用されています。
このハーネスは Foundry でも利用可能ですし、オープンでもあります。つまり、Llama のハーネスを使ったり、ご自身の任意のオープンなハーネスや独自ハーネスを使用したりして、ツールや複数のモデル、そしてコンテキストを組み合わせながらトレーニングを行うことができます。これが私たちの提案です。現在、多くの議論では、「もしハーネスとツール、そしてモデルを一緒にトレーニングすれば、[00:10:00] の評価結果が得られる」といった内容が語られています。
Elad Gil:私たちが証明しようとしているのは……その最良の例が MDASH で行ったことです。MDASH がリリースされた際、Mythos では発見されなかったバグや脆弱性を見つけ出したのです。つまり、現実世界において、実際により高性能なマルチモーダルハーネス(multimodal harness)を構築できるという存在証明があると言えます。
Sarah Guo:しかし
プラットフォーム戦略と開発者エコシステム
Sarah Guo: 自社製品、つまり生産性向上ツールやコード関連、あるいは検索エンジンなどが収益の大部分を担う場合、それはあなたが説明されている Microsoft エコシステムとは異なる価値方程式になると思います。もしそうだとしたら、その通りかどうか教えてください。なぜなら、明らかに自社製品もあれば、それを可能にする製品もあるからです。
Satya Nadella: 開発における役割とは何か?何が難しくなるのか、そしてその世界で開発者が持つスキルセットと価値の獲得についてどうなるのか。はい、プラットフォーム構築者として極めて成功した人物が、同時に自社製品を持つケースは常に存在すると考えます。Windows の時代もそうでした。
これは、私たちや他社においても、SaaS 側およびクラウド側でも真実です。しかし、重要なのは、これが他の人々が同じ成功を収めることを制限してはならないということです。ここが核心的な違いであり、今回は知能に関するネットワーク効果が異なる点にあります。なぜなら、学習は大量のデータからではなく、ほんの数サンプルから行われるからです。何かの新規性を理解するには、それらの数サンプルを見るだけで十分なのです。だからこそ、ゲームの焦点は「いかに守るか」に移ります。したがって、私は各企業がプライベートな評価(eval)を持つことが最大の知的財産(IP)になり得ると言います。考えてみてください。そのプライベートな評価を、フロンティアモデルを用いてヒルクライム(最適化)に活用しつつ、痕跡が漏洩しないようにできることが、最大の知的財産の原動力の一つとなり得るのです。
[00:12:00]
つまり、別の重要な試練とは、評価(eval)が非公開である場合です。例えば、モデル A を使用している際に、それをモデル B に切り替えて性能を向上させることができるかどうかを試すことです。もし可能であれば、あなたは制御権を握っています。しかし、それができない場合は、制御権を持っていないことになります。この点において、ハーン(harness)の設計決定がいかに重要かが浮き彫りになります。
swyx: したがって、オープンなハーンを持ち、あらゆるモデルを受け入れ、評価(evals)、コンテキスト、ツールがhill climb(性能向上)を支援できる体制こそが、AIネイティブスタートアップやSaaS企業、そしてすべての企業が備えるべきスキルだと考えます。はい、非常に現実的な意味で、あなたは……マイクロソフトは歴史的にオペレーティングシステム企業であり、その後クラウド企業へと進化しました。
おそらく第三の章として、「ハーン」あるいは「評価(evals)」を専門とする企業になるのかもしれません。どのような概念の集合体を目指すにせよ。そして、すべての企業がフロンティアインテリジェンス(frontier intelligence)や……ええと……[00:13:00] 正確な用語を忘れてしまいましたが、それがミッションであるはずです。
Satya Nadella: その通りです。まさにそれこそがプラットフォームの約束です。私たちと共に構築すれば、あなたのデータに即したインテリジェンス(intelligence)が得られるのです。これに尽きます。私にとって、これは……つまり、この開発者会議全体を象徴する一つのキャッチフレーズがあるとすれば、「誰もが自らのフロンティアインテリジェンス(frontier intelligence)を活用してフロンティアで運営できるか」という問いになるでしょう。
私にとって、それは非常に重要です。なぜなら、そうでなければ安定した均衡状態をどう達成できるか分かりませんから。つまり、「私の会社は、継続的に複利効果を発揮する方法が分かったため、終端価値を持つことになる」と言うにはどうすればいいのか、そして「プラットフォームがより良くなる上に」という点についてどう説明するかです。そう、Windows が明らかに登場したとき、Adobe は構築し、Autodesk も構築しました。あるいは、ジェンセンの発言を例にとっても良いでしょう。
私たちは DX を構築し、彼はその上に CUDA を構築しました。ねえ?いつもジェンセンにこう言っています。「神様、私は不利な立場だった」と。「ああ、それに気づいていればよかった」と。しかし、それでもなお、誰かが拡張できるプラットフォーム層 [00:14:00] を構築し、この場合であればその上で独自のインテリジェンス層を構築するというアイデアこそが、すべてです。
それがなければ、なぜ開発者会議など開催するのでしょうか?ただ来て、皆で一つのモデルの祭壇に拝むだけになればいいのです。しかし、それは開発者会議ではありません。
IP、評価、企業価値
swyx: 裏側では、IP とは何か、あるいは企業の価値とは何かについて議論しました。かつては、その企業における人間の経験の長さでしたが、今やそれは別のもの、つまりエージェントを企業に適用する際の経験、すなわち評価(evals)です。もう少し詳しく説明していただけませんか?
はい...非常に示唆に富んでいました。
Satya Nadella: それはそれを枠組みづける素晴らしい方法ですね。なぜなら、結局のところ、すべての企業には依然として非常に価値のある人的資本を持つことになるからです。人間、そして常時存在するギャップを見つける彼らの能力こそが、私たちがすべて価値を創造する方法となるのです。
つまり、私はこのことが、トークン資本が増加する中でも、新しい形態の人間の主体性と野心を表現することになるという立場にあります。例えば、ある企業 [00:15:00] が多くのトークンと大量の人的資本を持っている場合、問題はこれら 2 つをどのように複利計算するかです。つまり、Teams であれば、仕事をするエージェントの数々と仕事をする人間たちがあり、それらの間の痕跡こそが、その企業がどのように価値を創造しているかという非常に重要な文脈となるのです。
そうすると、一般モデルではなく、企業のベテランエージェントを訓練することになります。これもまた極めて価値がありますね。企業が「これは実際には貸借対照表に載るべきだ」と言うとき、私はそれをそう捉えています。実は、人的資本が貸借対照表に乗せられることは決して不可能だったのです。なぜなら、暗黙知をどのように捕捉するか分からなかったからです。
swyx: 今では、時間を通じて、すべての痕跡を通じて学習したエージェントを使えば可能だと考えています。少なくともそれが起こると私たちは思っています。SEC(米国証券取引委員会)はトークンに関する会計基準を設ける必要があるでしょう…専門知識についてお話しされていますね。均衡状態、つまり企業が複合的な価値を持ち、自らの終端価値を見出せる安定した均衡状態についてです。
SaaS とビジネスモデルの未来
Sarah Guo: もう一つの課題として、垂直または横断的に共通するアプリケーションやワークフローが存在するという考え方の均衡があります。これが SaaS 企業の世代を生み出し、マイクロソフトも多くの SaaS プロパティを持っています。一方で、各企業が他社と差別化を図るために非常に固有な要素もあります。
Elad Gil: きっと、これらのワークフローが今では生成コストが安価であるため、ソフトウェアの終焉に関する議論を多く耳にし、参加されていることと思います。エージェントが構築される企業内と、そのベンダー間での均衡は将来異なるものになるとお考えですか?はい。そこで起こっていることは、私たちがアプリケーション内でワークフローを捉える特定のやり方を持っていたということです。
Satya Nadella: 私たちはデータモデルを構築しました、その通りです。ビジネスプロセスの一部をスキーマ化し、はい。その後、一連のビジネスロジックを実装しました。ええ。そしてその上に UI [00:17:00] を配置しました、对吧?つまり、これがすべての SaaS 企業が長年採用してきたアプローチなのです。わずかな設定も含まれます。過去約 20 年にわたり、これが計画でした。
その通りです。しかし興味深いことに、現在ではこの垂直スタッキングを再検討する機会が生まれていますね。例えば、各 SaaS アプリケーションの下部に構築されたデータモデルは非常に優れていると思います。なぜそれを再発明する必要がありましょうか?私の一般元帳(general ledger)は、あくまで一般元帳であるべきです。
新しいスキーマ作成は不要です。いいえ。
原文を表示
We’ve informally heard that Satya is a listener to LS for a couple years now, but it was still absolutely surreal to meet him and do a live pod at Build, together with our friends at No Priors, the leading VC AI Podcast that we also greatly admire!
We covered the MAI model technical takeaways on yesterday’s AINews, so I will focus our recap of Satya’s main messages around three elements:
Satya’s adaptation of the Bill Gates Line for positioning Microsoft as the Frontier Intelligence Platform — customers must gain much more value from the Microsoft ecosystem than Microsoft itself, by building on multi-model harnesses like OpenClaw and Scout, drawing on the full enterprise context exposed by context layers like Work IQ (heavily dogfooded by his C-suite), and building up private evals and traces as a new form of Token IP
AI ROI: On one hand, enterprises are having difficult conversations around Tokenmaxxing and Layoffs, and on the other hand, there are serious re-evaluations of the End of SaaS since the Build vs Buy equation has changed so much. Our previous SemiAnalysis guest had… interesting comments on Microsoft’s position on this as the ur-SaaS titan, and Satya had great answers
Making the Impossible Possible: Kevin Scott’s inspiring framing around what the most ambitious version of applying AI and technology at large to business and social problems, like education and social impact.
Enjoy!
Full Video
Transcript
Voiceover: Welcome swyx, Sarah Guo, Elad Gil,, and Chairman and Chief Executive Officer of Microsoft, Satya Nadella
Sarah Guo: Welcome to a crossover episode of No Priors and Lane Space with Satya Nadella. Um, congratulations on an amazing build. No, thank you so much, and it’s great to be with both of you. I listen to both of you or b- both the podcasts all the time. It’s great to be on it.
Thank you so much. [00:01:00] So you’re just talking about, um, these amazing, uh, announcements from across the Microsoft estate all morning for, I think, three hours. What is the, uh, what’s the most important reflection or takeaway you have?
AI as an Ecosystem Platform
Sarah Guo: I, I’d say there are, uh, perhaps the, the biggest one for me is let’s sort of conceptualize this more as an ecosystem play as opposed to a single model or even a single platform, right?
Satya Nadella: I mean, you know, whatever I... At least for me, having grown up at Microsoft, having seen, whatever, four major platform shifts, uh, I sort of fall into that, um, uh, camp where a platform is defined by fundamentally its ability to create more value about the platform versus what’s captured in the platform. And so if you, you view what’s happening right now, I think this morning’s keynote was how can any company, whether it’s an AI native company or a traditional enterprise company, participate as a first-class participant where they can point to AI they created, [00:02:00] right?
It’s not that they don’t use other people’s AI. Of course they will. But to me, what’s the path? What’s the recipe? How do I do it? What does a stack look like? What does the tooling look like? What is valuable? How do you do that? That’s it. That’s sort of our job to do. Yeah. Ecosystem strategy is, uh, very complicated, right?
Sarah Guo: Because you end up building certain components, partnering for certain components, supporting them. You just announced this big suite of models. Like, tell us a little bit about the, uh, training strategy for Microsoft now. Yeah.
MAI Models & Training Strategy
Sarah Guo: So, so the thing that we wanted to do with the MAI models was to build, and as Mustafa talked about, first of all, a great lineage, right?
Satya Nadella: Starting with pre-training, uh, with very good data quality, uh, doing all the ablations, making sure because in, in some sense it’s becoming even harder to build a clean lineage model just because there’s so much stuff out there, uh, that you truly need to ablate out to be able to have a fantastic [00:03:00] pre-trained model.
In fact, that’s one of the challenges of a lot of the open weight models is they look great on one benchmark or two, but they’re not great on practice. So that’s why, in fact, even in the RFDEs are, they, they are pretty gone really excited about these MAI models because how the heck can a small five B model hill climb?
Uh, and it goes back a little bit to what I think is ultimately the key thing to do, which is try to pursue finding that cognitive core. Uh, so to me, starting with a clean lineage- Then creating that ability for companies to be able to use this, right? Not just as a generalist, but to create their own specialist by building this hill climbing scaffold around it, right?
So it’s not just the model, but you have a hill climb scaffold around it, then you will start building your RLE. You will start collecting the traces. Most importantly, you’ll have private evals because we know all the evals out there are good, interesting, [00:04:00] but they’re not really that critical- They’re work, yeah
Swyx: at this point because they all can be maxed. And so the point is each company will have its own private eval. And so that end-to-end platform story around our models is sort of, uh, what I think is interesting. And then the one other thing, Sarah, since you brought that up, is I do feel there’s a new frontier.
Satya Nadella: Like people talk about the frontier and are you operating at the frontier. Um, interestingly enough, if you add a little temporality to it, you can use, let’s say, in, in, in fact, the, the Lando Lakes demo we showed was pretty cool. We used, whatever, GPT-55, right? Then you collected a bunch of traces, and then you took a 5B reasoning model and achieved higher.
Sarah Guo: Uh, so that is another aspect of what it means to appear... uh, you know, operate at the frontier Yeah. I, I think, uh, I first of all have to congratulate you on basically building a frontier neo lab inside of Microsoft in two years. Um, I’m wondering, you know, you have all this AI strategy that you’re rolling out.
Lessons from Two Years of AI Development
Swyx: I’m wondering, what do you know now that you wish you would tell yourself two years ago where- or two or [00:05:00] three years ago? Three years for the Jensen partnership, two years for, uh, MEI. Yeah, I mean, I think the, the thing when, that I reflect quite a bit, right, which is sort of obviously I got into all this when I got excited by the, the scaling laws paper and, you know, when, you know, even the OpenAI partnership came about when those folks said, “Hey, we’re gonna really throw a lot of computer transformers.”
Satya Nadella: Uh, and they’ve helped. I- the thing that I always look back and say, “Wow, these things, uh, do have capability that they’re climbing up.” W- I mean, this, you know, this crude way of saying it is intelligence is log of compute kind of works. Now what I think we underestimated perhaps is the real-world complexity of deploying these so that they actually deliver the value in the real world, right?
So the outcomes as measured by any benchmark is interestingly important, but the true eval is when people out there are able to do unique things that they only can value, and it’s very [00:06:00] measurable, right? That I wish we had sort of even, like, had more in our consciousness, right? Which is as an industry.
Sarah Guo: Because right now I think when people say, “Wow, I don’t want a token max,” it’s an artifact of us not having thought ourselves as an industry that we are using tokens to create value every step of the way. So I think that’s kind of what I wish we had gotten there, but I’m glad we are here.
Real-World Value & Use Cases
Sarah Guo: What are some of the use cases that you’ve seen that have created the most value for your customers?
Because I know that people talk a lot about code, and I think it’s pretty clear that that’s something that’s having very large scale impact. Are there other areas that you find in common that your customers are really benefiting from? Yeah. I think, yeah, to your point, obviously coding is now got... But it’s interesting, by the way, Elijah, to even talk about the coding, right?
Satya Nadella: Which is coding has worked so well that we now have to rebuild the IDE, right? I mean, it’s kind of nuts to see what we sh- launched is like, oh my God, I have these hundred agent sessions. I... The cognitive load it transfers back to me as a human is so [00:07:00] excessive that now I need a new UI. Uh, oh, by the way, I, like the, the chat as the only artifact was also impossible, so that’s why we need a canvas.
So it’s kind of interesting for all the things about where is software needed or where is UI needed, uh, you kind of need that even for code, right? In a fully agentic world. But that said, one of the things that we are starting to see, we started seeing with co-work, but even some of the work we, we showed with auto com- uh, um, autopilot Right on what you see with claws is a good one because if you sort of think about a lot of human capital is doing the glue work, right?
If you now can augment that with tokens/agents that are long-running, durable, right, then your ability to scale even what is still judgment and glue work gets amplified like coding does. Uh, so you can... Like, I’m positive that six months from now we’ll all be saying, “Oh, wow,” like, all through ni- the night there was a bunch of stuff that [00:08:00] all these autopilots that I have working on my behalf with my delegated authority, so to speak, right?
I can... Sort of given even my identity, did a bunch of work, then of course I’ll need my new ADE to say, “Well, what did you do?” Like, I might... “Did I do this work?” And so on. So I think that that’s where compressing of workflows, uh, completing of tasks, uh, that’s where I think a lot of the value gets created. I think you raised a really interesting point, which is there’s the actual agent that’s doing the code, and then there’s a harness around it, and that’s the environment, that’s the context, that’s everything you’re setting up as a developer around actually a coding agent.
The Harness Concept for Enterprise AI
Sarah Guo: What is the harness for the enterprise? Is there an equivalent concept for broader productivity work, or how do you think about that concept sort of generalized? That’s right. So, so in some sense you kind of want the harness to define the models, the, the data, uh, and the tools, and so that you have a loop across those three.
Satya Nadella: And so what we are trying to, first of all, make sure is each of our products that we build, right, whether it’s GitHub Copilot or the security copi- the, the [00:09:00] stuff we showed with MDASH or even the discovery for science, it doesn’t matter, all of them are multi-model harnesses, um, with tools access so that you can do this progressive, uh, disclosure of tools even so that they’re token efficient.
Uh, and then you’re feeding it with very rich context because that’s sort of the other hard lesson we have learned in the last two years is, oh my God, the amount of work you need to do to prep the context layer, uh, such that your plan can execute in the most efficient way is where the magic is. So we have, in our case, we have the GitHub harness, which essentially we’re using across all our products.
It’s available in Foundry, and we are open, like you can use your Llama harness, whatever. Or you can use the, um, uh, you know, any open harness or any harness of yours and train with your tools and multiple models and your context. And so that’s the pitch. Because right now a lot of dialogue is, um, “Hey, if I train the harness plus tools and the model together, you get [00:10:00] evals.”
Elad Gil: And what we are proving out is... And the best example of that is what we did with MDASH, right? Because when it launched, uh, it found bugs or vulnerabilities that were not found by Mythos Uh, and so there is existence proof, I would claim, that you can have a multimodal harness, uh, that can in fact be more, uh, performant in the real world So a premise behind the, uh, training at the independent frontier labs is really, you know, we’re gonna have these models, and we’ll have an API business, and we’ll support enterprises and startups.
Sarah Guo: But
Platform Strategy & Developer Ecosystem
Sarah Guo: a first-party product, be it productivity or code or search, drives the majority of revenue. That’s a different value equation than you’re describing, I think, with the Microsoft ecosystem. Uh, if, if that’s the case, tell me if it’s the case, uh, ‘cause obviously you have first-party products and you have enablement products.
Satya Nadella: Um, what is the role of the develop- Like what is gonna be hard and the set of skills and the value capture the developer has in that world? Yeah. So I think that there’s always [00:11:00] gonna be the case that someone who is super successful in- as a platform builder can also have first-party products. It was true with Windows.
It is true, uh, with, uh, the, the SaaS side and the cloud side as well with us and others and so on. But the thing that is, is it should not be a limiter to other people achieving that same success, right? That I think is the core difference, which is the, the network effects this time around, around intelligence are such because they learn from data, and not really lots of data.
It’s just a few samples that you have to see to understand what’s novel about something. So that’s why the game becomes how to protect. So that’s why I would say every company, having private evals may be the biggest IP, right? Think about it, like what’s that private eval that you can then use even a frontier model to hill climb on and not leak the traces may be one of the biggest [00:12:00] drivers, uh, of IP.
Like, so in other words, another te- acid test is you have an eval that’s private. You’re using, uh, a g- a Model A. Can you switch it to Model B and e- you know, climb up? If you can, then you’re in control. If you can’t, you’re not in control, and that’s where even the harness decision becomes super important, right?
swyx So therefore, having an open harness, letting all models come in, having your evals, your context, your tools help you hill climb, I think is the skills that an AI native startup needs, a SaaS company needs, or every enterprise needs. Yeah, I think in, in a very real way you are ... Microsoft historically is an operating systems company and th- then become a cloud company.
Maybe like the third act is that you’re a harness or evals company. Whatever w- ... whatever the, the sort of conglomerate of concepts that you wanna put together. Um, and, and I think like enabling every company to have like frontier intelligence or what- what- Yeah ... I forget the, the [00:13:00] exact term that you used, um, is the, is the mission, right?
Satya Nadella: That’s it. Like that is, that is the platform promise, that you build with us, you will get your intelligence, uh, for your data. That’s it. That ... To, to me, that is the ... Like if there was one tagline, uh, for this entire developer conference is- Can everybody operate at the frontier with their frontier intelligence, right?
To me, that is so important because otherwise it, I, I don’t know how you achieve stable equilibrium, right? Which is how do I then go and say, “Well, my company is gonna have a terminal value because I now know how to continuously compound-” Yeah ... on top of what’s a platform that gets better,” right? So when, like Windows obviously came out, Adobe built, Autodesk built, uh, or even like take what Jensen said.
We built DX and he built, you know, CUDA on top of it. Um, right? I mean, I always say to Jensen, “God, I got the short end of that,” right? “I wish, uh, we had recognized it.” But nevertheless, but that, that idea that you can build a platform layer [00:14:00] that someone else can then extend out, um, and build their own intelligence layer in this case, I think is everything, right?
Without it, why have a developer conference? I can just come and have you all sort of just worship at the altar of one model. Yeah. But that’s not a developer conference. Uh,
IP, Evals & Company Value
swyx: backstage we, we had a discussion about what is IP or what is the, the value in a company. It used to be the length of, uh, human experience at a company, and now it’s this other thing which is the evals, the, uh, experience in sort of applying agents to the company. Can you... I just want you to like flesh that out a bit more ‘cause- Yeah ... it was very insightful.
Satya Nadella: It’s a great way to frame it, right? Because yeah, at the end of the day, every company is gonna have both the human capital that is still gonna be super valuable, uh, because humans, uh, and their ability to find the gaps that exist at all times is going to be the way we all will create value, right?
I mean, so I’m definitely in the camp that this is going to be about expressing new forms of human agency and ambition even as token capital goes up, right? So let’s say a cor- any corporation [00:15:00] has lots of tokens and lot of human capital. The question is how do you compound the two? So if you have a... Like if you take in Teams I have a bunch of agents doing work and a bunch of humans doing work, and the traces between those, that is really important context of how that enterprise is creating value.
Then that goes back to train not a generalist model, but to train the company veteran agent, uh, right? That is super valuable again, right? Which is when a company goes says, “It should in fact go onto the balance sheet,” is how I think about it, right? That’s so... In fact, there may be... Like human capital was never possible to go put on a balance sheet, uh, because you didn’t know how to capture the tacit knowledge.
swyx: Whereas now I think you can with the agents that have learned through the h- through, through time, through all the traces. Uh, so that’s what at least we think will happen. I, I think the SEC is gonna have to have accounting standards- ... for token, uh, expertise Uh, y- y- you’re talking about the equilibrium [00:16:00] state, um, and a stable equilibrium where companies have this compounding value and can see terminal value for themselves.
Future of SaaS & Business Models
Sarah Guo: Another challenge to, you know, the considered equilibrium of, okay, there are applications and workflows that are sort of common to a vertical or a horizontal. Um, and this was, like, the generation of SaaS companies and, you know, Microsoft has lots of SaaS properties as well. And then there are things that are very specific to every enterprise that they’re differentiated against.
Elad Gil: Um, I’m sure you have heard much and participate in much of the debate about the end of software because all these workflows are, are cheap to generate now. Um, do you think the equilibrium looks different between what agents get built- Yeah ... in enterprises versus in their vendors in the future? Yeah. So I think what’s happening there is, see, we, we had a particular way we captured, um, I would say workflow in apps, right?
Satya Nadella: Because we built a, a data model, right? We schematized some part of some business process. Mm-hmm. We then built a bunch of business logic. Yep. And then we put a bunch of UI [00:17:00] on top of it, right? So that’s kind of what every SaaS company- And a little configuration. For, like, 20, 20 years that was the plan.
Right, that- Yeah ... and that was it. So interestingly enough, now you kind of get to re-litigate that vertical stacking, right? So I still think, for example, that data model that you built underneath every SaaS application is super good, right? Like, why reinvent it? Like, I, I, my general ledger better be a general ledger.
I don’t need new schema creation. No.
関連記事
今日のまとめ
AI日報で今日の重要ニュースをまとめ読み