テック企業は安価な AI モデルを愛せるようになるか?
Coinbase の Brian Armstrong が予測する通り、コスト意識の高まりにより AI 業界で「安価なモデルへのシフト」が加速し、大規模ラボの経済構造に大打撃を与える可能性が示唆されている。
キーポイント
業界パラダイムシフトの予測
Coinbase の Brian Armstrong は、今後12〜18ヶ月で業務の80%が99%安価なモデルに切り替わり、高度な知能が必要な20%のみ最新モデルを使用するようになるという予測を示した。
大規模ラボへの経済的打撃
高品質を追求して開発された大規模モデルが、安価な代替品で同等のタスクを処理できるようになれば、OpenAI や Anthropic といった大手ラボの収益構造に深刻な影響を与える。
実証されたコスト削減事例
法務 AI ツール「Harvey」は Fireworks AI と連携し、Claude Opus と GLM 5.1 を組み合わせることで、品質を維持したまま推論コストを3倍に削減する成功例を報告している。
品質定義の転換
AI の「品質」は単に最も強力なモデルを使うことではなく、最適な回答を最も効率的に得られるモデルを選ぶことに進化している。
大小モデル間の対立構造
業界の真の分岐点はプロプライエタリかオープンかの違いではなく、大規模モデルと小規模モデルの違いにある。
コスト圧力によるインフラへの影響
投資家による補助金縮小とトークン価格の上昇により、ユーザーはより小さなモデルや利用頻度の削減を迫られており、これが推論需要の減退やフロンティアモデルの訓練費用正当化への疑問を生む可能性がある。
影響分析・編集コメントを表示
影響分析
この記事は、AI 業界が「性能至上主義」から「コスト効率重視」へと転換する重要な転換点を示しており、今後のインフラ戦略や製品開発の方向性を根本的に変える可能性を秘めています。特に大手モデルベンダーにとっては、自社の高価なモデルへの依存度を下げるユーザー行動が、IPO や収益性という経営課題に直結する重大なリスク要因となります。
編集コメント
「性能が全て」だった時代から「コストと効率の最適化」へ移行する過渡期にあることを示す決定的な記事です。大手ベンダーは、安価なモデルへの移行を阻止するのではなく、ハイブリッド環境での価値提供戦略を急務とする必要があります。
AIブームは、より大きなモデルほど強力であり、最も強力なモデルが勝つという基本的な前提の上に築かれてきました。現在、業界はその前提が崩れ始めたときに何が起きるかを学ぼうとしています。
高騰するコストにより、ユーザーたちはすでに小さく安価なモデルを再検討せざるを得なくなっています。この「コスト意識の高いモデル選び」は新しい動きであり、それが業界にどのような影響を与えるかは不透明ですが、そのインパクトは大きくなる可能性が高いです。
コイントレックスの共同創設者であるブライアン・アームストロングが最もよく示した予測の一つは、これによりタスクの大半がより安価なモデルへ移行するというものです。
「知能への需要はほぼ無限大ですが、12〜18ヶ月以内に作業負荷の 80% が 99% 安価なモデル上で実行されるようになります」とアームストロングはX(旧Twitter)に投稿しました。「残りの 20% の作業負荷は、IQ最大化が重要な最新世代のモデル上で引き続き実行されます。」
もしアームストロングの予測が現実のものとなれば、AI業界にとってどれほど大きな転換点となるか、過大評価することさえ難しいでしょう。
これまで、ほとんどの AI 企業は品質を競うことで競争してきました。これは、利用可能な最も先進的なモデルをデフォルトとして採用することを意味していました。もし同じ業務が、品質に影響を与えることなくより安価なモデルで処理できるのであれば、それは AI の経済構造における大規模な転換を意味します。そして何よりも重要なのは、その多くのお金が大手ラボのポケットから出ていくことになる点です。これは、OpenAI や Anthropic といった企業が IPO(新規株式公開)に向けて進もうとしているまさにその時期に、それらに対して財政的な打撃を与えることになります。
これは業界における潜在的に地殻変動ともいえる変化であり、一つの基本的な問いに依存しています:企業はより小さなモデルへ切り替える準備ができているのでしょうか?
初期のテストでは、システムが適切に構成されていれば、安価なモデルでも品質を犠牲することなく代替可能であることが示唆されています。法律分野向け AI ツール「Harvey」による最近のテストでは、同社は品質を低下させることなく推論コストを 3 倍削減することに成功しました。このテストは、推論プラットフォームの Fireworks AI と共同で行われたもので、Claude Opus と Fireworks の GLM 5.1 を組み合わせ、最も負荷の高いタスクには Opus を使用するという構成でした。その結果、サーバー稼働時間と全体のコストが大幅に削減されました。
「品質は最優先であり、法律分野では常にそうあるべきです」と、Harvey の共同創設者である Gabe Pereyra は TechCrunch に語りました。これは、同社が提供する AI 法務サービスに関する言及です。「しかしながら、品質の定義は、すべてのタスクに最も強力なモデルを使用することから、最も効率的に正しい回答を得られる最適なモデルを使用することに進化しています。」
この傾向は、主要ラボと中国製モデル、あるいはオープンウェイトモデルとの対比として語られることが多いが、それは本質を見失っている。真の分断点は、プロプライエタリモデルとオープンモデルの間ではなく、大規模モデルと小規模モデルの間にある。GPT-5.5 から DeepSeek の V4 Flash へ切り替えることでコストを削減できるが、GPT-5.4-mini へ切り替えても同様の効果が得られる。
大手ラボによる社内推論と、独立して提供されるオープンウェイトモデルの間では、活発な価格競争が行われている。小規模モデルか大規模モデルかというより大きな問いにおいては、どちらの小規模モデルが勝つかは本質的に重要ではない。
これらはすべて自明のように思えるかもしれない——当然ながら、必要な計算リソース以上を使うべきではない——しかし、これは現在まで業界を支配してきた「スケーリング最優先」のアプローチに反する。苦い教訓 に着想を得たラボは、可能な限り計算集約的なモデルの訓練に力を入れ、AI モデルが何を実現できるかの境界線を押し広げてきた。価格が投資家によって大幅に補助されていたため、顧客には最も先進的なオプションを選ぶ以外の理由がなかった。
トークン価格の上昇と補助金の減速により、ユーザーは初めてコスト圧力に直面している。この新たなコスト圧力が実際に企業ユーザーを小規模モデルへと駆り立てるかどうかはまだわからない。彼らはむしろ、呼び出し回数を減らしたり、コンテキスト(文脈)の使用量を削減したり、あるいは最も見込みの低い展開を諦めたりすることで、簡単に節約を図ることもできるだろう。
しかし、ほとんどのデプロイメントがより小さなモデルでも同様に実行可能であることが判明すれば、推論(inference)に対する需要の拡大に深刻なブレーキがかかり、フロンティアモデルをトレーニングするコストをどのように正当化するかという新たな疑問が生じる可能性があります。
*当記事内のリンクを通じてご購入いただいた場合、私たちは少額のコミッションを獲得する場合があります。これは当社の編集の独立性には影響しません。
ラッセル・ブランドムは2012年以来、プラットフォーム政策と新興技術に焦点を当てながらテクノロジー業界の報道を行ってきました。以前はThe VergeやRest of Worldで勤務し、Wired、The Awl、MIT's Technology Reviewにも寄稿しています。
彼への連絡先は russell.brandom@techcrunch.com または Signal(412-401-5489)です。
原文を表示
The AI boom has been built on a basic assumption: bigger models are more powerful, and the most powerful models win. Now, the industry is about to learn what happens if that assumption starts to break.
Mounting costs have already pressured users to give smaller and cheaper models a second look. This cost-conscious model-shopping is new and it’s unclear how it will affect the industry, but the impact is likely to be significant.
One prediction, laid out best by Coinbase co-founder Brian Armstrong, is that it will result in the vast majority of tasks shifting to cheaper models.
“Demand for intelligence is near infinite, but 80% of workloads will be running on 99% cheaper models within 12-18 months,” Armstrong wrote on X. “20% of workloads will still run on latest gen models where IQ maxing is important.”
It’s hard to overstate what a significant shift it will be for the AI industry if Armstrong’s prediction comes true.
Before now, most AI companies have competed on quality, which has meant defaulting to the most advanced available model. If those same jobs can be handled by cheaper models without affecting quality, it would mean a massive shift in the economics of AI. And critically, much of the savings would be coming out of the pockets of the big labs, dealing a financial blow to OpenAI and Anthropic just as they’re heading for their IPOs.
It’s a potentially seismic change in the industry, resting on one basic question: Are companies ready to switch to smaller models?
Initial tests suggest that, when the system is arranged right, cheaper models could sub in without any sacrifice in quality. In a recent test by the legal AI tool Harvey, the company was able to reduce inference costs by 3x without reducing quality. The test, performed in partnership with the inference platform Fireworks AI, combined Claude Opus and Fireworks’ GLM 5.1, and shifted to Opus for the most intensive tasks. The result was a significantly lower load in terms of server time and overall cost.
“Quality comes first, and in legal it always will,” Harvey co-founder Gabe Pereyra told TechCrunch, referring to the AI legal services his startup provides. “However, the definition of quality is evolving from simply using the most powerful model for everything, to using the best model that gets the right answer most efficiently.”
This trend is often framed in terms of major labs versus Chinese models or open-weight ones, but that misses the bigger point. The real divide isn’t between proprietary and open models; it’s between large models and small ones. You can save money by switching from GPT-5.5 to DeepSeek’s V4 Flash, but switching to GPT-5.4-mini works just as well.
There’s an active price war going on between in-house inference from the big labs and independently served open-weight models. For the bigger question of small versus large, it doesn’t really matter which kind of small model wins out.
All of this might seem obvious — of course you shouldn’t use more compute than necessary — but it runs counter to the scaling-first approach that has dominated the industry until now. Inspired by the bitter lesson, labs have leaned hard into training the most compute-intensive models possible, pushing the frontier of what AI models can do. With prices heavily subsidized by investors, clients had no reason to choose anything but the most advanced option.
With token prices rising and subsidies slowing down, users are facing cost pressure for the first time. We don’t know whether the new cost pressure will actually drive enterprise users to smaller models. They could just as easily economize by making fewer calls, using less context, or simply giving up on the least promising deployments.
But if it turns out that most deployments can be run just as well on a smaller model, it could put a serious damper on the growing demand for inference – and raise new questions about how to justify the cost of training a frontier model.
*When you purchase through links in our articles, we may earn a small commission. This doesn’t affect our editorial independence.*
Russell Brandom has been covering the tech industry since 2012, with a focus on platform policy and emerging technologies. He previously worked at The Verge and Rest of World, and has written for Wired, The Awl and MIT’s Technology Review.
He can be reached at russell.brandom@techcrunch.com or on Signal at 412-401-5489.
関連記事
OpenAI や Anthropic の安価な代替案に賭ける 130 億ドル規模の AI スタートアップ
TLDR AI が報じた記事によると、OpenAI や Anthropic に代わる低コストソリューションへ巨額の投資を行う 130 億ドル規模の AI スタートアップが注目されています。
米国がアンソロピックの「Fable 5」発売を禁止、しかし市場は動じず
米国政府は国家安全保障上の懸念から、アマゾンの研究者らがガードレール回避手法を発見したとして、アンソロピックに対し最新モデル「Fable 5」と「Mythos 5」の販売差し止めを命じた。サイバーセキュリティ研究者らはこの措置が危険だとする公開書簡に署名し、同社も他モデルでも同様の抜け道が存在すると指摘している。
Claude Fable 5 と Mythos 5 の能力に関する記事
Anthropic は、Claude Fable 5 が米政府から不正アクセス(ジャイルブレイク)の懸念によりリリース後わずか3日で利用停止を命じられたと報じています。この措置により、多くのユーザーが失った機能への愛着を表明しています。
今日のまとめ
AI日報で今日の重要ニュースをまとめ読み