AI業界の誰もが同じ理由で間違ったものを作っている
本文の状態
日本語全文を表示中
詳細モードで約9分の本文を読めます。
同じ出来事の情報源
この情報源を基点に整理
Andrej Karpathy 厳選
AI業界全体が意味のない方向に急加速しており、誰もその流れから抜け出せないと感じているという現状について述べている。
Source Article
元記事を日本語で読む
本文に関係しない購読案内、埋め込み通知、サイト内プロモーションは除いています。
私が話すすべてのAI起業家は、加速するトレッドミルの上にいる。業界全体が、あまり意味のない方向に速すぎるスピードで進んでいるとのうっとうしい疑念に苛まれ、どうやって降りればいいのかわからないでいる。
もし全員が立ち止まって5分考えれば、まったく違う何かを構築するだろうという圧倒的な感覚がある。しかしそれは、なぜ自分たちが特に立ち止まっていないのかを言葉で説明する能力の完全な欠如とセットになっている。
その答えは実に単純だ。
もちろんそうだろう。
誰も止まらない。なぜなら、誰も止まる余裕がないからだ。そしてその感覚には名前がある。それは「モロク」と呼ばれるもので、あなたのロードマップに載っていないAI界で起きている最も重要なことだ。
誰も選ばなかった競争
新しいモデルが登場する。ベンチマークでより優れている。すべてのAIプロダクト企業は今、それを統合しなければならない（もし彼らがラッパー企業なら）、あるいはそれに匹敵しなければならない（もしモデルを構築しているなら）、さもなければ投資家になぜしなかったのか説明しなければならない。統合／同等化にはエンジニアリング時間がかかり、その時間は長期的な価値を生む実際のプロダクト差別化には向かわない。しかし、統合しない企業は遅れをとっているように見え、あなたの企業価値のすべてが最先端にいるとの前提に基づいている場合、遅れをとっているように見えることは致命的だ。
全員が追いつき、全員がリソースをシフトし、全員がアップデートをリリースする。すべての企業の純競争力は以前とまったく同じ位置にあり、違いは彼ら全員が難解なことにエンジニアリング時間を費やし、誰一人としてエンドユーザーにとってエンドプロダクトを意味のあるほど良くしなかったことだけだ。
これが一つのサイクルだ。
今では数週間ごとにこれが起こる。
これがモロクだ。それは「競争としての調整の失敗」である。すべての企業は個別には合理的な判断（最先端に追いつくか、さもなければ死ぬ）を下し、その集計結果として、業界はモデルの能力という方向には信じられない速さで進みながら、プロダクトの価値という方向にはほとんど進まないことになる。
競争は本物だが、目的地は偽物だ。
すべてのAIプロダクトは同じインターフェースに収束している：チャットボックスだ。 おそらく、いくつかのツール利用機能があるチャットボックス。おそらく、いくつかのRAG（検索拡張生成）機能があるチャットボックス。しかし根本的には、テキスト入力とテキスト出力であり、差別化はブランディングと些細なUXの選択、そして裏で動いているモデルによってなされる。
チャットボックスが勝ったのは、それが速くリリースできるからであり、モロクは設計よりも速度を報酬とするからだ。
新しいインタラクションパラダイムを構築するには、数ヶ月から数年もの研究、反復、ユーザーテストが必要だ。その数ヶ月の間に、15の競合他社が最新モデルを搭載したチャットボックスラッパーをリリースし、市場の注目を集めるだろう。あなたの投資家は不安になる。あなたの取締役会は、長期的なビジョンを模索しながら「何かリリースする」ことを提案するだろう。あなたはチャットボックスをリリースする。長期的なビジョルは、誰も開かないNotionドキュメントの中で死ぬ。
すべての企業がこのまったく同じ選択に直面し、同じ結果を選ぶ。競争構造は創造性に対して不利に働く。新しい何かを構築するために時間をかける企業は、明白なものを速くリリースする企業に追い抜かれる。そして明白なものは常に同じものだ。なぜなら、明白なものとは、定義上、独創的な思考を必要としないものだからだ。
モロクはあなたに良いものを作ってほしいわけではない。
モロクはあなたに今、何かを作ってほしいのだ。
罠としての資金調達
この競争力学はプロダクトレベルでも十分に悪い。資金調達レベルでは、壊滅的だ。
AI企業は、可能な限り汎用的なプロダクトで可能な限り広い市場を追いかけることによってのみ達成可能な成長率を要求する企業価値で資金を調達している。5億ドルの企業価値で資金調達する企業は、数十億ドルの収益への道筋を示す必要があり、それはつまり、特定の聴衆のために一つのことを見事に成し遂げるニッチなツールである余裕がないことを意味する。それはプラットフォームでなければならず、水平的で、企業を対象とし、特定の誰かのためではなく構築されなければならない。
すべてのAI企業が、同じ機能を持ち、同じ買い手を対象とした同じ企業向けプラットフォームを構築している。なぜなら、資金調達の計算がそれを要求し、企業価値がそれを要求し、競争環境が人材を惹きつけるためにその企業価値での調達を要求し、人材市場がそれを要求するからだ。
この連鎖の中の誰一人として、この結果を選んだわけではない。すべての個々の決定は合理的だった。その集計結果として、50の同一のプロダクトを生み出す業界ができあがり、そのどれもが特定の問題を特にうまく解決せず、すべてが累積的な価値をまったく生まない機能競争に閉じ込められている。
違うもの（より小さく、より焦点が絞られ、より強い主張を持つもの）を構築するであろう企業は、競争するための資本を調達できない。資本を調達する企業は、構造的に画一性へと追い込まれる。モロクは多様性を食い尽くし、多様性こそがすべての実際の価値が宿る場所なのだ。
人材デススパイラル
これは人材市場にもある。
トップのAI研究者やエンジニアは、最先端にいる企業に行く。最先端はモデル能力のベンチマークによって定義される。だから企業はモデル能力に不相応に投資する。なぜなら、それが人材を惹きつける方法だからだ。たとえ彼らの特定のプロダクトにとってのモデル能力の限界収益がゼロに近くてもだ。
ユーザーは、GPT-4を十分に使いこなせないときに、GPT-5を必要としない。彼らが必要としているのは、より良いUXと、彼らが実際に働く方法へのより良い統合だ。しかし、それを構築できるエンジニアはモデルに取り組みたがる。なぜなら、モデルの仕事が次の仕事を得る手段だからだ。次の会社もモデル能力を最適化しているからだ。彼らも人材を惹きつける必要があるからだ。
すべての企業がモデル能力に過剰投資し、プロダクト品質に過小投資する。構造がそれを強いる。人材市場は、正しい優先順位を持つことに対してあなたを罰する。
なぜ「良いものを作る」は戦略ではないのか
私が10年以上聞き続けてきたスタートアップへのアドバイスは「ノイズを無視せよ。ユーザーに集中せよ。良いものを作れ」だ。
理論上は正しいが、実践上はほぼ不可能だ。なぜなら、モロクは特にこの戦略を中期的に罰するからだ。
良いものを作るには時間がかかり、時間がかかるということはあなたがリリースしていないことを意味する。リリースしていないということは、あなたが負けているように見えることを意味し、それは人材が去り投資家が不安になることを意味する。そしてあなたの競合他社（速くて質の悪いものをリリースしている）は、奪回するのにコストがかかる市場地位を獲得する。
「良いものを作る」ことが報われるまでの期間は長く、2年、3年、あるいはそれ以上だ。モロクがそれに対してあなたを罰する期間は即時的で継続的だ。ほとんどの企業は中期的に生き残って長期的な期間に到達できない。
このことを知っている起業家たちは夜も眠れない。
彼らはおそらく、作るべき正しいものが見えている。
それを作りながら生き残ることはできない。
脱出は不可能／可能だ
あなたはモロクから逃げ切ることはできない。あなたにできるのは、モロクが到達できない構造を構築することだけだ。
実際には、これは次のことを意味する：必要以上に資金調達するな。あなたのプロダクトビジョンが吸収できるより速く雇うな。最先端があなたのユーザーの住む場所でない限り、最先端で競争するな。モロクに捕らえられた企業が気づかないほど小さなニッチを見つけ、そのニッチに深く入り込み、彼らが到着する頃には、あなたのプロダクトがそれらのユーザーにとって重要な次元で数年先を行っているようにせよ。
競争圧力があなたの優先順位を歪めないほど小さくあれ。他の全員と同じものを作りに引きずり込まれないほど強い主張を持て。あなたをトレッドミルに乗せざるを得ない成長率を必要としないほど資本効率的であれ。誰もあなたにならなければあなたをコピーできないほど十分に風変わりであれ。
原文を表示
Every AI founder I talk to is on an accelerating treadmill, burdened by a nagging suspicion that the entire industry is moving too fast in a direction that doesn't quite make sense, with no idea about how to get off.
There is an overwhelming feeling that if everyone stopped and thought about it for five minutes, they'd build something completely different; but it's paired with a total inability to articulate why they specifically haven't stopped.
Well, the answer is simple.
Of course it is.
Nobody stops, because nobody can afford to, and that feeling has a name. It's called Moloch, and it's the most important thing happening in AI that isn't on your roadmap.
A race nobody chose
A new model drops. It's better at benchmarks. Every AI product company now has to integrate it (if they're a wrapper) or match it (if they're building a model) or explain to their investors why they didn't. Integration // parity takes engineering time, time that doesn't go toward the actual product differentiation that would create long-term value. But the company that doesn't integrate looks like it's falling behind, and looking like you're falling behind is fatal when your entire valuation rests on the assumption that you're on the frontier.
Everyone catches up, everyone shifts resources, everyone ships the update. The net competitive position of every company is exactly where it was before, except they all engineering time on esoteria and none of them made their end-product meaningfully better for end-users.
That's one cycle.
It happens every few weeks now.
This is Moloch; and it'scoordination failure as competition. Every company makes an individually rational decision (keep up with the frontier or die) and the aggregate outcome is an industry that's moving incredibly fast in the direction of model capability, and barely at all in the direction of product value.
The race is real // the destination is fake.
Every AI product is converging on the same interface: a chat box. Maybe a chat box with some tool use. Maybe a chat box with some RAG. But at bottom, a text input and a text output, differentiated by branding and minor UX choices and which model is running underneath.
The chat box won because it ships fast, and Moloch rewards speed over design.
Building a novel interaction paradigm takes months or years of research, iteration, user testing. During those months, fifteen competitors will ship chat-box wrappers with the latest model and capture the market's attention. Your investors will get nervous. Your board will suggest you "ship something" while you figure out the long-term vision. You'll ship the chat box. The long-term vision will die in a Notion doc nobody opens.
Every company faces this exact choice and picks the same outcome. The competitive structure selects against creativity. The companies that take time to build something new get outrun by the companies that ship the obvious thing fast. And the obvious thing is always the same thing, because the obvious thing is, by definition, the thing that doesn't need original thinking.
Moloch doesn't want you to build something good.
Moloch wants you to build something now.
Fundraising as trap
The competitive dynamic is bad enough at the product level. At the fundraising level, it's catastrophic.
AI companies are raising at valuations that require them to grow at rates that are only achievable by chasing the broadest possible market with the most generic possible product. A company that raises at a $500M valuation needs to show a path to billions in revenue, which means it can't afford to be a niche tool that does one thing brilliantly for a specific audience. It has to be a platform, horizontal, aimed at enterprise, built for no one in particular.
Every AI company is building the same enterprise platform with the same features targeting the same buyers, because the fundraising math requires it, because the valuation requires it, because the competitive environment requires raising at that valuation to attract talent, because the talent market requires it.
Nobody in this chain chose this outcome. Every individual decision was rational. The aggregate result is an industry producing fifty identical products, none of which solve any specific problem particularly well, all of which are locked in a feature war that generates zero cumulative value.
The companies that would build something different (smaller, more focused, more opinionated) can't raise the capital to compete. The companies that raise the capital are structurally forced into sameness. Moloch eats the variance, and variance is where all the actual value lives.
Talent death spiral
It's in the talent market too.
Top AI researchers and engineers go to the companies that are on the frontier. The frontier is defined by model capability benchmarks. So companies invest disproportionately in model capabilty, because that's how you attract talent, even when the marginal return on model capability for their specific product is near zero.
Your users don't need GPT-5 when they can barely use GPT-4 effectively. They need better UX and better integration into how they actually work. But the engineer who could build that wants to work on the model, because model work is what gets you your next job, because the next company is also optimizing for model capability, because they need to attract talent too.
Every company overspends on model capability and underspends on product quality. The structure forces it. The talent market punishes you for having the right priorities.
Why "build something good" isn't a strategy
The startup advice I've heard for a decade+ is "Ignore the noise. Focus on users. Build something good."
Correct in theory, nearly impossible in practice, because Moloch specifically punishes this strategy in the medium term.
Building something good takes time, and time means you're not shipping. Not shipping means you look like you're losing, which means talent leaves and investors get nervous, and your competitors (who are shipping fast and bad) capture market position that's expensive to reclaim.
The window in which "build something good" pays off is long, two years, three years, maybe more. The window in which Moloch punishes you for it is immediate and continuous. Most companies don't survive the medium term to reach teh long term.
The founders who know this stay up at night.
They can probably see the right thing to build.
They can't survive building it.
Escape is im//possible
You can't outrun Moloch. You can only build a structure it can't reach.
In practice, this means: don't raise more than you need. Don't hire faster than your product vision can absorb. Don't compete on the frontier unless the frontier is where your users live. Find a niche that's too small for the Moloch-captured companies to notice and go so deep into it that by the time they arrive, your product is years ahead in the dimension that matters to those users.
Be small enough that the competitve pressure doesn't distort your priorities. Be opinionated enough that you can't be dragged into building the same thing as everyone else. Be capitally efficient enough that you don't need the growth rate that forces you onto the treadmill. Be weird enough that nobody can copy you without becoming you.
今日のまとめ
AIデイリーブリーフで今日の重要ニュースをまとめ読み