データセンターがあなたのマシンへ（4 分読了）

## データセンターがあなたのマシンへ AI システムにとっての正しい目標は、ユーザーごとにワットあたりのトークン価値を最大化することです。一見シンプルに聞こえますが、実際にはそうではありません。なぜなら、三つの要素がお互いに拮抗しているからです。 精度（Accuracy）は最も能力の高いモデルを要求しますが、それを実行するにはコストがかかります。プライバシー（Privacy）は、一部の処理をあなたのマシンから外に出さないことを求めます。コストとエネルギー（Energy）は、小規模なモデルで対応可能なタスクに最先端モデルの計算リソースを浪費しないようにします。これら三つのうちどれかを最大化しようとしても、他方を無視することはできません。 この三つをバランスさせるのは、オーケストレーション（orchestration：調整・統制）の問題です。そして、オーケストレーションこそが Perplexity がこれまで一貫して取り組んできたことです。 本日、私たちは [Personal Computer](https://www.perplexity.ai/hub/blog/personal-computer-is-here) の次のステップを発表しました。それは、最初のハイブリッド・ローカルサーバー推論オーケストレーターです。これは、どの処理をデバイス上で実行し、どの処理をクラウド上のエージェントに任せるべきかを推論し、タスクの各部分を自動的に適切な場所にルーティングします。 ## モデルから計算リソースへ Perplexity はまず、正確で出典が明記された回答を生み出すためにツールと情報源をオーケストレーションすることから始めました。Computer はこれを拡張し、数百のエージェントのためのハネス（harness：枠組み・基盤）となり、二十を超える最先端モデルの中から各タスクに最適なモデルを選択して起動します。今や私たちは、同じ考え方を計算リソースそのものに適用できます。どのモデルを、どこで実行し、なぜそうするのかという問いです。 ハイブリッド・エージェント型推論は、機密データを含むものの強力な AI が必要となる業務向けです。金融記録、健康情報、個人ファイルなどが該当します。コンパクトなモデルは端末上でローカルに実行され、いつ機密データをローカルに保持すべきかを判断します。 一方、フロンティア・モデルの全能力を必要とする業務はサーバー上で実行されます。実際のタスクの多くは混合されたものであるため、パーソナル・コンピューター（Personal Computer）がそれらを分割し、各部分を調整します。事前にローカルかクラウドかを選択するよう求めるツールとは異なり、これはタスクごとに自動的に発生します。 ## デバイスがデータセンターとなる 長年、より高性能なシリコンは主にアプリの高速化とバッテリー寿命の延長を意味していました。しかし、チップが実際の推論を実行できるようになると、この状況は変化します。ローカルハードウェアが良ければ良いほど、オーケストレーター（調整役）は端末上で維持できる割合が増え、サーバーは本当にそれを必要とする業務のために確保されるようになります。 私たちは Intel と共同でこれを発表しましたが、同じモデル非依存のハーン（枠組み）は NVIDIA の RTX Spark を含む他のローカル・シリコン上でも動作します。ローカル計算能力を巡る競争が始まっています。チップが進化するにつれ、真にシームレスなオーケストレーションのためのエージェント型ハーンと適用推論エンジニアリングを備えているのは Perplexity だけです。 これは、計算資源の不足を見守るすべての人にとっての数式も変えます。機密性の高い業務と日常的な業務が、すでにユーザーが所有しているデバイス上に移行すれば、それらを提供するために大規模な集中型インフラを構築する必要はなくなります。これにより、主権のあり方も変わります：重要なデータは、自国にデータセンターを建設して維持しなくても、そのデータが属する管轄区域内のままにしておくことができます。 人々は、自分が制御できないデータセンター上で動作させるよりも、自分のラップトップ内にデータセンターを持つことを望みます。 ## 効率のための適切なアーキテクチャ このアーキテクチャが Perplexity に適しているのには理由があります。私たちのビジネスは常に、販売するトークンの最大化ではなく、正確な AI を目指してきました。これはワットあたりの価値を最適化するための正しいインセンティブです：答えが正しく、業務が完了したときにこそ勝つのであり、より多くの計算資源を消費したからといって勝つわけではありません。 ハイブリッド AI は長年にわたり業界の目標でした。7 月に登場するローカル推論機能を備えたパーソナルコンピュータは、これを現実のものとする最初の製品であり、計算リソースをマシンとクラウド全体で知的にオーケストレーションすべき要素の一つとして扱う初の試みです。

データセンターがあなたのマシンへ（4 分読了）

背景や根拠まで確認しますか？

調べる

選ぶ

サイト

背景や根拠まで確認しますか？

ニュースの次に確認する

調べる

選ぶ

サイト