このチップスタートアップ、AI の最大のボトルネックは計算能力ではなくメモリだと信じて1億3500万ドルを調達
本文の状態
日本語全文を表示中
詳細モードで約6分の本文を読めます。
同じ出来事の情報源
この情報源を基点に整理
TechCrunch AI
あるチップスタートアップが、AIの最大のボトルネックは計算能力ではなくメモリであると確信し、1億3500万ドルの資金調達に成功した。
Source Article
元記事を日本語で読む
本文に関係しない購読案内、埋め込み通知、サイト内プロモーションは除いています。
ChatGPT に質問するたびに、データのリレーレースが発生します。情報がメモリから離れ、前処理のために CPU を経由し、重い計算のために GPU へ移動し、そして再び戻ってきます。AI が生成する単語一つひとつに対して、この旅路が繰り返されます。
ボトルネックは構造的なものです。つまり、すべてのリクエストで業界内で最も高価かつ電力消費の大きいチップの一部を経由しなければならないことを意味します。この非効率性が、韓国と米国にオフィスを置くスタートアップである XCENA が解決しようとしている課題です。設立 4 年目の同社は、演算能力を DRAM（プロセッサが現在アクティブに使用しているデータを保存する高速な短期記憶チップ）の近くに配置したチップを設計しました。これにより、CPU、GPU、メモリ間の高コストな往復移動なしで、通常のデータ操作をメモリの近くで処理できるようになります。
これがスケールして機能すれば、AI インフラストラクチャのコストへの影響は甚大となる可能性があり、それが国内の投資家の熱狂を説明する主な理由となっています。実際、XCENA は直近でシリーズ B ラウンドにおいて 1 億 3500 万ドル（約 200 億円）を調達し、企業価値は 5 億 7000 万ドル（約 860 億円）と評価されました。これにより、同社が調達した総額は 1 億 8500 万ドル（約 280 億円）となりました。
XCENA のCEO、ジン・キムは、2022年にCTOのドフン・キムとCPO（Chief Product Officer：最高製品責任者）のハリー・ジュヒョン・キムと共にこのスタートアップを設立しました。3人ともサムスンやSKハイニクスといったベテランで、これらはNvidiaのGPUに搭載されるチップを提供するメモリ業界の巨人です。「CPU と GPU は数十年かけて賢くなりましたが、メモリはそうではありませんでした。XCENA はその状況を変えたいのです」とキム氏はTechCrunchとのインタビューで語りました。「最近のメモリ価格や関連株の上昇は、AI インフラがメモリー中心アーキテクチャへと広範な転換を遂げていることを示しています」と彼は付け加えました。（今月、世界のメモリチップ市場を支配する3社、すなわちサムスン、SKハイニクス、マイクロンはそれぞれ初めて時価総額1兆ドルを超えました。）
「推論（inference）は単なる計算能力の問題ではなく、ますますメモリのスケーリング問題となっている」という仮説に、XCENA は自社のビジネスを賭けているとキム氏は述べました。
XCENA のチップであるMX1は、CXL（Compute Express Link：計算表現リンク）を通じてCPU に接続されます。これはプロセッサとメモリ間の専用高速レーン essentially であり、データがメモリモジュールから出る前に処理を行います。つまり、データを計算リソースに持ち込むのではなく、計算能力をデータのもとへ届けるというアプローチです。同社によると、従来は10台のサーバーが必要だったものが、現在はたった1台で実行可能になる可能性があります。
「GPU は行列乗算、つまり AI モデル学習の背後にある重厚な計算においては卓越していますが、前処理や KV キャッシュ管理（モデルが過去の会話文脈を再処理する必要がないようにするシステム）、データキャッシュなど、周辺データのオーケストレーションの多くは依然として CPU で実行されています。当社のチップはこれらのタスクをメモリモジュール内部で直接処理します」とキム氏は述べています。
昨年後半以降、メモリソリューションへの需要が急増しており、同社はこのタイミングが自社に有利に働いていると考えています。
複数のグローバルなメモリベンダーとの会話は初期段階にありますが、キム氏はそれらの名前を明かすことを拒否しました。同社の理想の顧客は、AI インフラストラクチャに年間数百億ドル規模で投資しているハイパースケイラーであり、そこではメモリエフィシエンシーにおけるわずかな向上でも数億ドル規模の節約につながります。
MX1 はまだ試作段階です。量産用チップは 2026 年末までにサムスンのファウンドリラインから出荷される予定で、同社は 2027 年からの収益化を見込んでいます。
ニューラルプロセッシングユニット（NPU）メーカーが Nvidia のトレーニングワークロードへの挑戦を競う中、XCENA はそのすべてを支える基盤となるメモリ集約層に焦点を当てています。
XCENA の最も近い競合他社には、次世代メモリ接続技術に取り組むナスダック上場企業のアステラ・ラボスとマールベルが含まれます。キム氏は、マールベルはすでに同分野で活動している大規模な確立されたプレイヤーであると述べ、差別化要因は知的財産に帰着すると付け加えました。「我々には数千のコアがあります」とキム氏は言いました。公開された仕様に基づくと、マールベルのアプローチは比較すると数個の汎用コアに依存しています。
これらのコアはオープンソースのチップ設計図である RISC-V（RISC-V）上に構築され、データ処理のために特別に最適化されており、各コアは意図的に小さく効率的に保たれています。コア自体を超えて、XCENA は独自の内部メモリ階層、インターコネクト・バス、DRAM コントローラを設計しています。これは、大規模な競合他社を含む多くのチップ企業が通常外部委託するレベルの垂直統合です。
ソウルに拠点を置くベンチャーキャピタル企業であるアルティナムと IMM Investment が、Corstone Asia および既存投資家である SBI Investment と Mirae Asset Capital とともにシリーズ B ラウンドを共同主導しました。同社はソウルの外にある技術ハブであるパンギョとサニーベールに事務所を構え、90 名以上の従業員を抱えており、追加資金調達のために国際的な投資家とも協議を進めています。
*当記事内のリンクを通じてご購入いただいた場合、私たちは少額のコミッションを獲得する可能性があります。これは当社の編集の独立性には影響しません。*
原文を表示
Every time you ask ChatGPT a question, your request triggers a data relay race. Information leaves memory, passes through a CPU for preprocessing, travels to a GPU for heavy computation, and then makes its way back — and that entire journey repeats for every single word the AI generates.
The bottleneck is structural — it means routing through some of the most expensive and power-intensive chips in the industry on every single request. That inefficiency is exactly what XCENA, a startup with offices in South Korea and the U.S., is trying to solve. The four-year-old startup has designed a chip that places compute capabilities much closer to DRAM — the fast, short-term memory chips that store data a processor is actively using — allowing routine data operations to be handled near memory, without the costly round trips between CPUs, GPUs, and memory.
If it works at scale, the implications for AI infrastructure costs could be significant, which largely explains investor enthusiasm around the country. Indeed, XCENA just raised $135 million in a Series B at a valuation of $570 million, bringing its total raised to $185 million.
XCENA CEO Jin Kim co-founded the startup in 2022 alongside CTO Dohun Kim and CPO Harry Juhyun Kim, all veterans of Samsung and SK Hynix, the memory giants that supply chips powering Nvidia’s GPUs. “CPUs and GPUs have both gotten smarter over the decades. Memory never did. XCENA wants to change that,” Kim said in an interview with TechCrunch. “The recent rise in memory prices and related stocks points to a broader shift in AI infrastructure toward memory-centric architectures,” he added. (This month, the three companies that dominate the global memory chip market — Samsung, SK Hynix, and Micron — each crossed a trillion-dollar valuation for the first time.)
XCENA is betting its business on the thesis that “inference isn’t just a compute problem; it’s increasingly a memory scaling problem,” said Kim.
XCENA’s chip, the MX1, connects to the CPU through CXL (Compute Express Link) — essentially a dedicated express lane between the processor and memory — processing data before it ever needs to leave the memory module. It brings compute to the data, not the other way around. The company claims that what used to require 10 servers could potentially run on just one.
“While GPUs excel at matrix multiplication — the heavy math behind AI model training — much of the surrounding data orchestration, including preprocessing, KV cache management (the system that stores prior conversation context so a model doesn’t have to reprocess it), and data caching, still runs on CPUs. Our chip handles those tasks directly within the memory module itself,” Kim said.
Demand for memory solutions has surged since the second half of last year, and the company believes the timing is working in its favor.
Conversations with several global memory vendors are in early stages, though Kim declined to name them. The company’s ideal customers are hyperscalers spending tens of billions a year on AI infrastructure, where even a small gain in memory efficiency can mean hundreds of millions in savings.
The MX1 is still a prototype. Mass production chips are scheduled to roll off Samsung’s foundry lines by the end of 2026, with the company expecting to generate revenue starting in 2027.
While neural processing unit (NPU) makers are competing to challenge Nvidia for training workloads, XCENA is targeting the memory-intensive layer that sits underneath all of it.
XCENA’s closest rivals include Astera Labs and Marvell, both Nasdaq-listed companies working on next-generation memory connectivity. Marvell is a large, established player already working in the same space, Kim said, adding that the differentiator comes down to intellectual property. “We have thousands of cores,” Kim said. Based on public specs, Marvell’s approach relies on a handful of general-purpose cores by comparison.
Those cores are built on RISC-V — an open source chip design blueprint — and optimized specifically for data processing, with each core deliberately kept small and efficient. Beyond the cores themselves, XCENA designs its own internal memory hierarchy, interconnect bus, and DRAM controller — a level of vertical integration that most chip companies, including larger rivals, typically outsource.
Seoul-based VC firms Altinum and IMM Investment co-led the Series B round, along with Corstone Asia and existing investors SBI Investment and Mirae Asset Capital. The company, which has more than 90 staff across offices in Pangyo, a tech hub outside Seoul, and Sunnyvale, is also in conversations with international investors about additional funding.
*When you purchase through links in our articles, we may earn a small commission. This doesn’t affect our editorial independence.*
Kate Park is a reporter at TechCrunch, with a focus on technology, startups and venture capital in Asia. She previously was a financial journalist at Mergermarket covering M&A, private equity and venture capital.
今日のまとめ
AIデイリーブリーフで今日の重要ニュースをまとめ読み