Databricks の元 AI 責任者、AI の電力使用量を 1,000 倍削減できると主張
本文の状態
日本語全文を表示中
詳細モードで約4分の本文を読めます。
同じ出来事の情報源
この情報源を基点に整理
TechCrunch AI
Databricks の元 AI 責任者が、AI 技術の電力消費コストを最大で 1,000 倍削減できる可能性があると提唱している。
Continue in AI NEW LAB
このニュースを、実務の判断につなげる
AI NEW LABで、試したことや先に確認したい条件を共有できます。まずはログインなしで読めます。
AI NEW LABで論点を見るSource Article
元記事を日本語で読む
本文に関係しない購読案内、埋め込み通知、サイト内プロモーションは除いています。
AI の次の画期的な発見に向けた動きは、非常に野心的なプロジェクトに資金を提供してきましたが、ある企業はこの機会を捉え、計算アーキテクチャを一から再構築しようとしています。
Databricks で元 AI 部門長を務めていた Naveen Rao が率いる Unconventional AI は、推論処理の電力効率を劇的に向上させることを約束しています。その秘密兵器は、振動子ベースの新しい計算アーキテクチャです。
木曜日、同社は初のモデル AI である「Un-0」を発表しました。これは画像生成システムツールであり、同社の技術が従来の AI システムをどのように再現できるかを初めて示すものです。併せて発表された新論文では、研究チームが新しいアーキテクチャのソフトウェアシミュレーションを用いて、最先端の拡散モデル(diffusion models)と同等の性能を発揮する完全な機能を持つ画像生成モデルを構築した方法を詳述しています。
「これは、新しい種類のコンピュータにおける『Hello World』です」と Rao は TechCrunch に語りました。「今後 1 年間で、この分野に関する非常に興味深いニュースが次々と発表されるようになるでしょう。」
新しい Un-0 モデルの出力は、Stable Diffusion や OpenAI の GPT Image 1 などの画像生成モデルの出力と似ています。印象深いのは、その性能に到達するプロセスです。このモデルは、従来のコンピューティングや伝統的な大規模言語モデル(LLM)を駆動するチップとは全く異なる、振子ベースのアーキテクチャに基づいて構築されています。振子ベースのコンピューティングの利点は複雑ですが、Rao 氏は最終的に電力使用量を最大で 1,000 倍削減できると信じています。
そこへ至るためのインフラストラクチャーの多くはまだ建設中です。現在の Un-0 のバージョンは、Unconventional の振子チップのソフトウェアシミュレーション上で動作しますが、同社はまもなく実際のチップのための設計図を公開する計画です。そこから先は、Unconventional AI が他のプロバイダーと同様に計算能力を提供するように、推論スタック全体を一から構築する計画です。
「私たちは自社のチップで構成される新しい種類のシステムを構築します」と Rao 氏は述べています。「そこで AI モデルを実行し、プロンプトが入力され推論結果が出力されるネットワークケーブルも用意しますが、電力消費は従来の 1/1000 で実現されます。」
これは驚くほど野心的な目標であり、特に従業員数がまだ 50 人未満の企業にとってはなおさらです。しかし、AI の構築規模と、増大する推論(inference)需要に応じるために予想されるコストを考慮すれば、この問題の規模に対応できる数少ない取り組みの一つとなる可能性があります。ラオ氏の見解では、今後数年間の AI にとって電力の利用可能供給量は重要な制約要因の一つとなり、Unconventional はそれを解決できる数少ないプロジェクトの一つです。
「AI のスケーリングが難しいのはエネルギーの問題 때문입니다。これが今後数年間の根本的な限界となります。それを越えることはできません。結局のところ、これはエネルギーに制限された問題になるのです」と彼は言います。
*当記事内のリンクを通じてご購入いただいた場合、私たちは少額のコミッションを受け取る可能性があります。これは私たちの編集の独立性には影響しません。
ラッセル・ブランドムは 2012 年以来テクノロジー業界を取材しており、プラットフォーム政策と新興技術に焦点を当てています。彼は以前 The Verge や Rest of World で勤務し、Wired、The Awl、MIT の Technology Review にも寄稿しています。
彼への連絡先は russell.brandom@techcrunch.com または Signal(412-401-5489)です。
原文を表示
The drive to discover the next big thing in AI has funded some pretty ambitious projects — but one company is taking it as a chance to rebuild computing architecture from the ground up.
Led by Naveen Rao, formerly the head of AI at Databricks, Unconventional AI promises to make inference processing vastly more power efficient. The secret weapon: a new kind of oscillator-based computer architecture.
On Thursday, the company released its first model AI — called Un-0 — an image-generation system tool that shows for the first time how the company’s technology can replicate conventional AI systems. In an accompanying new paper, the company’s research team details how they built a fully functional image-generation model using a software simulation of the new architecture — one that performs just as well as state-of-the-art diffusion models.
“This is the ‘hello world’ of a new kind of computer,” Rao told TechCrunch. “Over the next year, you’re going to start seeing some pretty interesting news around this.”
The output from the new Un-0 model is similar to that of image-generation models like Stable Diffusion or OpenAI’s GPT Image 1. The impressive part is how it arrives at that performance. The model is built on an oscillator-based architecture that is completely different from the chips that power conventional computing and traditional LLMs. The advantages of the oscillator-based computing are complex, but Rao believes it will ultimately reduce power use by as much as 1,000 times.
Much of the infrastructure to get there is still being built. The current version of Un-0 runs on a software simulation of Unconventional’s oscillator chips, but the company plans to release schematics for an actual chip soon. From there, the plan is to build an entire inference stack from the ground up, with Unconventional AI eventually supplying compute capacity just like any other provider.
“We will build a new kind of system composed of our chips,” says Rao. “We will run AI models there, and we will have a network cable where prompts come in and inferences go out, but it’ll be done at 1/1000 of power.”
It’s a stunningly ambitious goal, particularly for a company that still counts less than 50 employees. But given the scale of the AI buildout and the anticipated cost of meeting the growing demand for inference, it may be one of the few efforts to meet the scale of the problem. As Rao sees it, the available supply of power will be one of the hard limits for AI in the years to come — and Unconventional is one of the few projects able to address it.
“AI scaling is hard because of energy. It’s going to be the fundamental limit in the next few years. You just can’t go past it. It’s going to be an energy-limited problem, at the end of the day,” he says.
*When you purchase through links in our articles, we may earn a small commission. This doesn’t affect our editorial independence.*
Russell Brandom has been covering the tech industry since 2012, with a focus on platform policy and emerging technologies. He previously worked at The Verge and Rest of World, and has written for Wired, The Awl and MIT’s Technology Review.
He can be reached at russell.brandom@techcrunch.com or on Signal at 412-401-5489.
関連記事
今日のまとめ
AIデイリーブリーフで今日の重要ニュースをまとめ読み