フランスのスタートアップ ZML が、多数の AI チップでの推論を高速化する無料製品を発表
フランスのスタートアップ ZML は、複数の異なる AI チップ上で推論処理を高速化するための無料製品をリリースした。
キーポイント
複数チップ対応による推論最適化
ZML の新製品は、特定のハードウェアに依存せず、多様な AI チップ上で推論処理の速度向上を実現する技術を提供している。
無料リリースによる普及促進
この高性能な推論最適化ツールが無料で提供されることで、開発者や企業の導入障壁を下げ、AI モデルの実装スピードを加速させる狙いがある。
ハードウェア非依存の柔軟性
特定のベンダーに縛られないマルチチップ対応により、コスト効率やパフォーマンスの観点から最適な環境選択が可能になる。
影響分析・編集コメントを表示
影響分析
このニュースは、AI インフラストラクチャにおけるハードウェアのロックインを打破し、よりオープンで効率的な推論環境への移行を促す可能性があります。特にスタートアップや中小企業が高性能な AI 推論を低コストで利用できるようになることで、業界全体の開発スピードが加速すると予想されます。
編集コメント
ハードウェアの壁を取り払い、推論コストと時間を削減するツールが無料公開される点は、開発者にとって非常に魅力的な展開です。ただし、具体的な性能向上の数値や対応チップの詳細情報が不足しているため、実際の導入効果は検証が必要でしょう。
Nvidia の圧倒的な市場支配力が終わる日はまだ来ませんが、あらゆる方向から挑戦者や選択肢が現れ始めています。
Turing 賞受賞者の Yann LeCun 氏に 支持 されたフランスの注目 AI スタートアップ ZML は、Nvidia、AMD、Google の TPU、Apple Metal、Intel Arc を含む さまざまなチップ で さまざまなオープンソース大規模言語モデル を実行できるようにする、推論（inference）性能を向上させるソフトウェアをリリースしました。
新発売の LLM 推論サーバー ZML/LLMD を通じて、同社の野望は既存のサイロ（閉鎖的なシステム）を打破し、AI ユースケースにおいて異なるチップを最大限の速度で、場合によってはそれ以上に高速に利用可能にすることだと、ZML の創業者 Steeve Morin 氏は TechCrunch に語りました。
AI が私たちの仕事や日常生活に統合されるにつれ、推論（つまりプロンプトの処理）の最適化は モデルトレーニング よりも重要性を増していますが、背後ではソフトウェアやアーキテクチャ上の障壁によりベンダーロックインを招くことが多く、全体として不十分な印象を与えることが多いと Morin 氏は指摘しています。
さまざまなチップ上で最高性能を発揮するという約束は技術的な偉業ですが、AI 関連のコストへの懸念が高まる中、市場を揺るがす可能性もあります。
ZML は、企業が一部のチップを組み合わせる選択肢を提供し、その中にはコストが抑えられたりエネルギー消費が少ないものも含まれることを目指しています。「アイデアは、人々に自分たちのシステムを構築する力を戻し、[AI] を普及させることができる真の効率向上を実現することです」とモラン氏は述べています。
このようなソフトウェア支援は、多くの場合ヨーロッパ出身である新しい AI チップメーカーにも役立つと、モラン氏は指摘しました。彼は Axelera、Fractile、Kalray、OLIX、Q.ANT、SiPearl、SpiNNcloud、そして VSORA を例に挙げています。しかし、彼にとって重要なのは発祥の地域ではなく、ZML が「世界中でかつて行われたことのないこと」についてこれらの企業と協力できる点です。
それはモラン氏が Nvidia に対して悲観的であることを意味するものではありません。既存の供給網があるためでもあります。彼は TechCrunch に対し、ZML は AI チップの巨人である同社と良好な関係を築いており、推論（inference）の台頭に向けて準備を進めていると語りました。
推論（inference）は、その投資の激しさから「推論のゴールドラッシュ」と称されるほど注目を集めている分野です。そのため ZML には、直近で 130 億ドルの評価額を付与された Baseten や、オープンソースプロジェクト vLLM の開発者らが設立した Inferact、さらに SGLang の背後にある 商業会社 RadixArk（SGLang の背後にある商業会社）といった競合が存在します。
vLLM と SGLang は LLMD と部分的に競合していますが、Morin 氏の ZML に対する野望はより広範な領域をカバーしています。「私たちはすでにシリコンの共同設計（co-designing silicon）に至っているのです」と彼は語りました。さらに、パリに拠点を置くこのスタートアップが迅速に進められ、今後のリリースも計画されている理由として、20 名という少人数のチーム体制を挙げました。
また、この小規模チームは規模に見合った十分な資金調達に恵まれていることも追い風となりました。Snapchat が 2017 年に 9 桁の金額で買収した Zenly のエンジニアリング担当バイスプレジデントとしての実績を持つモランは、Harry Stebbings が率いる 20VC、>commit、AALVC、Drysdale Ventures、Xavier Niel の Kima Ventures、Kindred Capital、LocalGlobe、Puzzle Ventures などを含むベンチャーキャピタルから 2,000 万ドルを調達しました。
ZML の最初の公開プロジェクトである 2024 年にリリースされ 3 月に更新された推論特化型の ML フレームワークとは異なり、ZML/LLMD はオープンソースではありません。しかし、利用状況の把握を目的として無料製品としてリリースされます。「成長を愚かに阻害しないよう、貪欲になりすぎない範囲で最も効果的な場所で収益化を図り、まずは測定してから行う方がよい」とモランは述べています。
ZML/LLMD がいつ有料製品になるか、またその普及状況がどうなるかはまだ早計だが、スタートアップの資本構成表から、他の創業者たちも注目していることが確認できる。ダガーとドッカーの創設者ソロモン・ハイクス、Hugging Face のクレマン・デランジュとジュリアン・ショモン、そして現在 AMI Labs で活動するレクン氏もその一人だ。これはまた、欧州の AI スタートアップが 今や自宅から構築できる という根拠を強めるものだ。「ZML はパリでなければどこでも作れなかった」とモランは語った。
*当記事内のリンクを通じてご購入いただいた場合、私たちは少額のコミッションを受け取る可能性があります。これは当社の編集の独立性には影響しません。
Anna Heim はライター兼編集コンサルタントです。
Anna への連絡や、彼女からのアウトリーチの確認は、annatechcrunch [at] gmail.com までメールを送ってください。
2021 年以来フリーランスの記者として TechCrunch で活動し、AI、フィンテック&インシュアテック、SaaS と価格設定、そしてグローバルなベンチャーキャピタル動向など、スタートアップ関連の幅広いトピックを取材してきました。
2025 年 5 月現在、彼女の TechCrunch での取材は、欧州で最も興味深いスタートアップストーリーに焦点を当てています。
アンナは、TechCrunch Disrupt、4YFN、South Summit、TNW Conference、VivaTech などを含む、あらゆる規模の業界イベントでパネル司会やステージ上でのインタビューを担当してきました。
元 The Next Web のラテンアメリカ・メディア編集者であり、スタートアップ創業者、パリ・ソルボンヌ大学出身の彼女は、フランス語、英語、スペイン語、ブラジルポルトガル語を含む複数の言語を流暢に話します。
原文を表示
The days of Nvidia’s unparalleled market dominance aren’t over, but challengers and choices are arising from all directions.
ZML, a hot French AI startup endorsed by Turing Award winner Yann LeCun, has released inference-performance software that allows a variety of open-source large language models to run on a variety of chips — including Nvidia’s, AMD’s, Google’s TPU, Apple Metal and Intel Arc.
With ZML/LLMD, the newly launched LLM inference server, the company’s ambition is to break existing silos and make different chips available for AI use cases at their maximum available speed, and sometimes faster, ZML founder Steeve Morin told TechCrunch.
As AI becomes integrated into our work and everyday lives, optimizing inference — aka, the processing of prompts — has been outpacing model training in importance, but often feels patchy behind the scenes, with software and architecture barriers that lead to vendor lock-in, Morin said.
The promise of achieving peak performance across a variety of chips is a technological feat, but it could also be a market disruptor, amid mounting fears over AI-related costs.
ZML hopes to provide enterprises and clouds with the option to use a mix of chips, some of which might be less costly or consume less energy. “The idea is to give people back the power to create their own system and achieve real efficiency gains that allow [AI] to be disseminated,” Morin said.
Such a software assist may help novel AI chipmakers, many of which happen to be from Europe, Morin observed, citing Axelera, Fractile, Kalray, OLIX, Q.ANT, SiPearl, SpiNNcloud, and VSORA. But more than their region of origin, what matters to him is that ZML can work with them on “things that haven’t been done before anywhere in the world.”
That doesn’t mean Morin is bearish on Nvidia. He’s not, in part because of its existing supply. He told TechCrunch that ZML has a good relationship with the AI chip giant, which has been gearing up for the rise of inference.
Inference has been an area of such intense investment, that the trend has been hailed the “inference gold rush.” So ZML has competition such as Baseten, recently valued at $13 billion; Inferact, from the creators of open source project vLLM; as well as RadixArk, the commercial company behind SGLang.
Both vLLM and SGLang partially compete with LLMD, but Morin’s ambitions for ZML cover a broader spectrum. “We have reached the point where we are co-designing silicon,” he said. He further credited ZML’s lean team of 20 people as the reason why the Paris-based startup has been able to move fast, with more releases in the plans.
It also helped that this small team is well funded for its size. Thanks to his track record as VP of engineering of Zenly, which Snapchat acquired for nine figures in 2017, Morin raised $20 million from venture firms including Harry Stebbings’ 20VC, >commit, AALVC, Drysdale Ventures, Xavier Niel’s Kima Ventures, Kindred Capital, LocalGlobe, and Puzzle Ventures.
Unlike ZML’s first public project, the inference-focused ML framework released in 2024 and updated in March, ZML/LLMD is not open source. But it is launching as a free product with the goal of learning about usage. “I’d rather measure and [then generate revenue] where it is most effective without hindering my growth stupidly because I have been too greedy from the get-go,” Morin said.
It is too early to tell when ZML/LLMD might become a paid product, and what its adoption will look like. But the startup’s cap table confirms that other founders are paying attention, including Dagger and Docker founder Solomon Hykes, Clément Delangue and Julien Chaumond from Hugging Face, as well LeCun, now with AMI Labs. This also builds the case that Europe’s AI startups can now build from home. “I couldn’t do ZML anywhere but in Paris,” Morin said.
*When you purchase through links in our articles, we may earn a small commission. This doesn’t affect our editorial independence.*
Anna Heim is a writer and editorial consultant.
You can contact or verify outreach from Anna by emailing annatechcrunch [at] gmail.com.
As a freelance reporter at TechCrunch since 2021, she has covered a large range of startup-related topics including AI, fintech & insurtech, SaaS & pricing, and global venture capital trends.
As of May 2025, her reporting for TechCrunch focuses on Europe’s most interesting startup stories.
Anna has moderated panels and conducted onstage interviews at industry events of all sizes, including major tech conferences such as TechCrunch Disrupt, 4YFN, South Summit, TNW Conference, VivaTech, and many more.
A former LATAM & Media Editor at The Next Web, startup founder and Sciences Po Paris alum, she’s fluent in multiple languages, including French, English, Spanish and Brazilian Portuguese.
関連記事
今日のまとめ
AI日報で今日の重要ニュースをまとめ読み