GPU 金融、推論チップへ 4 億ドル投資
最初の GPU 資金提供者が、推論用チップへの投資を強化する 4 億ドル規模の取引を発表し、AI インフラストラクチャの重心が学習から推論へ移行していることを示した。
キーポイント
投資先の転換
従来の GPU 購入に資金を投じていた最初の金融提供者らが、コスト効率の高い推論用チップへの投資へと戦略をシフトさせている。
4 億ドル規模の取引
この戦略的転換は、推論用チップ分野における 4 億ドルという大規模な資金調達または取引として具体化されている。
インフラ構造の変化
AI エコシステムにおいて、モデル学習（トレーニング）から実運用（推論）へのリソース配分が劇的に変化している兆候である。
重要な引用
The first GPU financiers are turning to inference chips in a $400 million deal
reinforcing investment in inference chips
影響分析・編集コメントを表示
影響分析
このニュースは、AI エコシステムが単なるモデル学習競争から、実社会での大規模展開（推論）のコスト最適化へと成熟段階に入ったことを示唆しています。GPU の供給不足や高コストに対する解決策として、推論特化型チップへの投資が加速することで、業界全体のインフラ構造と資金フローが再編される可能性があります。
編集コメント
GPU 市場の飽和と高コスト化を背景に、推論用チップへの資金シフトは業界の成熟度を象徴する重要な転換点です。今後は特定のベンダーに依存しない多様なハードウェアアーキテクチャが競争を激化させるでしょう。
AI 推論クラウドのスタートアップ、General Compute が、テック投資企業である Upper90 から 4 億ドルの融資を受けました。これは、すでに訓練された AI モデルを高速かつ効率的に実行するために作られた「推論専用チップ」を担保とした取引としては、おそらく初の事例となるでしょう。これらのチップは、モデル構築そのものに使われる高価な GPU とは異なり、コストを抑えた運用を実現します。
今回の資金調達は、AI ツールやトークンの価格高騰への懸念が高まる中、市場が最先端ラボ製の最新大規模言語モデル（LLM）よりも安価にオープンソースモデルを実行できるインフラへと注目を集めていることを示す、最新の兆候です。
CEO のフィン・プクリョウスキー氏と CTO のジェイソン・グッドソン氏が設立した General Compute は、5 月に 1,500 万ドルのシードラウンドを完了しました。この資金は、インテルが支援するチップメーカーである SambaNova のシリコンを活用し、「推論用ネオクラウド」を構築するために使われます。ここでいうネオクラウドとは、AWS や Azure といった従来の巨大クラウドプロバイダーが提供する汎用インフラとは異なり、AI ワークロードに特化して設計されたものです。
同社が開発した SN50 チップは推論専用です。省電力であり、高価な水冷システムを必要としないため、GPU に比べてより多様なデータセンターへの展開が迅速に行えます。General Compute によると、この新チップは GPU ベースのクラウドと比較して、16 倍もの高速な推論性能を実現します。
しかし、特に新興企業にとって、こうしたチップを大量に確保することは大きな課題です。
Upper90 の共同創業者兼 CEO、ビル・リビーは元ゴールドマン・サックスのクオンツトレーダーですが、彼には明確な戦略がありました。2021 年、エネルギー分野に特化したデータセンター企業「Crusoe」による GPU 購入資金を同社が提供した際、これが先進チップの価値を担保とした最初の融資だったとリビーは考えています。
当時、GPU の価格下落リスクや不確実性を懸念した従来の金融機関はこの種の取引には手を出していませんでした。しかし、CoreWeave がチップ担保型融資をビジネスモデルとして確立し、さらに大規模な IPO の基盤としたことで、こうした資金調達が一般的なものになりました。
「Nvidia の GPU を最初に担保にした融資を行った際、市場はまだ非効率でした」とリビーは TechCrunch に語ります。「先行者として何かを構築できれば、リスクに見合った対価を得ることも可能だったのです」
現在、GPU は比較的理解が進み、過剰な購入の懸念さえある中で、Upper90 は次なる AI ブームに乗るため General Compute といった企業に注目しています。「オープンソースモデルが重要になると考えており、昨年は推論（インファレンス）分野で活躍するプレイヤーを探しました。全員がスーパーコンピューターを必要とするわけではありませんが、AI の推論能力は誰しもが必要としているのです」とリビーは述べています。
この見解はますます強固なものとなり、OpenRouter や Fireworks のようにオープンモデルへのアクセスを提供する企業が、巨額のバリュエーションで新たな資金調達ラウンドを成功させています。また、Kimi の K3 といった新モデルは、コーディングベンチマークにおいて Anthropic や OpenAI の最新リリースと互角に戦えることを実証しました。さらに、Groq や Cerebras といった新興の半導体メーカーも、買収候補や株式市場から注目を集めています。
General Compute が Nvidia エコシステム外のチップへのアクセスを確保できる意義は、これらと同じ理由に基づいています。AI インフラ企業である TensorWave もまた、AMD との提携に同様の賭けをしています。Nvidia 以外の選択肢が増えるにつれ、Nvidia の契約に縛られない計算リソースプロバイダーが、コスト効率の高い推論（インファレンス）を提供する上で優位性を得る可能性があります。
「素晴らしい総所有コスト（TCO）を備えたり、Nvidia よりもはるかに高速で動作したりするチップがいくつか登場し始めていますが、それらを購入する企業はまだ多くありません」と Puklowski は語ります。「Upper90 と提携することで、これは単なる『魅力的なスタートアップが計算リソースを買うための資金を得た』という話ではありません。これは、資本が組織化され始め、Nvidia の独占的な支配が分断され始めたことを示す最初のシグナルなのです」。
*当記事内のリンクを通じてご購入いただいた場合、私たちは少額のコミッションを受け取る場合があります。これは編集の独立性には影響しません。*
ティム・フェルンホルツは、テクノロジー、金融、公共政策を専門とするジャーナリストです。民間宇宙産業の台頭を深く取材しており、『ロケット・ビリオネアーズ』の著者でもあります。同書では、イーロン・マスクやジェフ・ベゾスらによる新たな宇宙競争を描いています。以前はグローバルなビジネスニュースサイト「Quartz」でシニア記者として 10 年以上勤務し、キャリアの初期にはワシントン D.C. で政治担当記者を務めました。
ティムへの連絡や取材確認は、tim.fernholz@techcrunch.com までメールを送るか、暗号化メッセージアプリ Signal の「tim_fernholz.21」を通じて行うことができます。
原文を表示
General Compute, an AI inference cloud startup, has landed a $400 million loan from Upper90, a tech investment firm. It might be the first deal to put up inference-specific chips as collateral — chips built to run already trained AI models quickly and efficiently, rather than the more expensive chips used to build the models in the first place.
The financing is the latest signal that markets are responding to concerns over the price of AI tools and tokens by turning to infrastructure that runs open source models more cheaply than the newest LLMs from frontier labs.
Founded by CEO Finn Puklowski and CTO Jason Goodison, General Compute raised a $15 million seed round in May to build an inference neocloud around silicon from SambaNova, an Intel-backed chipmaker. (Neoclouds are purpose-built for AI workloads, unlike the general-purpose infrastructure offered by traditional hyperscalers like AWS or Azure.)
The company’s SN50 chips are designed for inference. They’re power-efficient and don’t require expensive water-cooling systems, which means they can be deployed more quickly than GPUs across a larger variety of data centers. General Compute says the new chips will provide 16 times faster inference than GPU-based clouds.
The challenge is getting a lot of these chips, especially when you’re a brand-new company.
Upper90 co-founder and CEO Billy Libby, a former Goldman Sachs quantitative trader, had a playbook for this: In 2021, his firm financed GPU purchases by Crusoe, the energy-focused data center startup, which he believes was the first loan against the value of advanced chips.
Traditional lenders eschewed such deals at the time because of the risks and uncertainties around GPU depreciation. But as CoreWeave made chips-backed loans into a business model and then the basis of a blockbuster IPO, this kind of financing has become common.
“When we financed Nvidia GPUs as the first group to do that, the market was inefficient,” Libby told TechCrunch. “We could really put together something as an early participant, and kind of get compensated for the risk.”
Now that GPUs are comparatively well understood and perhaps over-bought, Upper90 is turning to companies like General Compute to ride the next wave of the AI boom. “We think open source models are going to be important, and we went and looked for a player last year that was in inference,” Libby said. “Everyone doesn’t need a supercomputer, but they do need inference and AI.”
That thesis has been growing stronger, with companies that provide access to open models, like OpenRouter and Fireworks, raising new rounds at huge valuations. New models like Kimi’s K3 have proven to compete with the latest releases from Anthropic and OpenAI on coding benchmarks. And new chipmakers like Groq and Cerebras have drawn interest from acquirers and public markets alike.
General Compute’s ability to access chips outside of Nvidia’s ecosystem matters for the same reason. TensorWave, another AI infrastructure company, is making a similar bet on a partnership with AMD. As more alternatives to Nvidia emerge, compute providers that aren’t locked into Nvidia deals may have an advantage in providing cost-efficient inference.
“There are a bunch of chips that are starting to scale that have amazing [total cost of ownership], or that can operate much faster than Nvidia, but there’s not too many buyers for them,” Puklowski said. “By getting together with Upper90, this is not just, ‘a cool startup got some money to buy some compute.’ Like, this is the first signal of capital organizing itself and the fragmenting of Nvidia’s monopolistic dominance.”
*When you purchase through links in our articles, we may earn a small commission. This doesn’t affect our editorial independence.*
Tim Fernholz is a journalist who writes about technology, finance and public policy. He has closely covered the rise of the private space industry and is the author of * Rocket Billionaires: Elon Musk, Jeff Bezos and the New Space Race.* Formerly, he was a senior reporter at Quartz, the global business news site, for more than a decade, and began his career as a political reporter in Washington, D.C.
You can contact or verify outreach from Tim by emailing tim.fernholz@techcrunch.com or via an encrypted message to tim_fernholz.21 on Signal.
関連記事
今日のまとめ
AI日報で今日の重要ニュースをまとめ読み