Holo3.1：高速かつローカル環境でのコンピュータ操作エージェント

[記事一覧に戻る](https://huggingface.co/blog) 昨年3月、私たちは最先端のコンピュータ操作モデル「Holo3」をリリースしました。その採用は即座に始まりました。開発者、企業、パートナーが、ブラウザ自動化や業務用ソフトウェアから内部ツール、デスクトップアプリケーションに至るまで、幅広いワークフローで Holo3 の展開を開始したのです。 採用が進むにつれ、私たちはパフォーマンスだけではもはや不十分であると気づきました。 ユーザーは、デスクトップとモバイルの両方の環境で同じコンピュータ操作機能を実行し、異なるエージェントフレームワーク（agent frameworks）とシームレスに統合することを望んでいます。また、クラウドでの推論からエンドユーザー端末での完全なローカル実行に至るまで、デプロイの柔軟性も求めています。 そこで私たちは「Holo3.1」ファミリーをリリースします。Holo3.1 は、本番環境で最も重要な3つの次元、すなわち環境（Web、デスクトップ、モバイル）、エージェントフレームワーク、およびデプロイ先において、堅牢性を向上させました。初めて、ローカル推論に最適化された量子化チェックポイント（FP8、Q4 GGUF、NVFP4）をリリースします。 Holo3.1 は、環境間での動作、あらゆるエージェントスタックへの統合、そしてワークフローが存在する場所での実行が可能となる「ユニバーサルコンピュータ操作エージェント」という私たちのビジョンに向けた大きな一歩です。 ## GUI 環境とエージェントハーンチスにおけるコンピュータ操作 Qwen ファミリーを基盤に設計された Holo3.1 は、最先端のパフォーマンスを維持しつつ、実際にコンピュータ操作エージェントが展開される環境全体での堅牢性の向上を目指しています。 チームが Holo3 を評価から本番環境へ移行する際、私たちは繰り返し同じ課題に直面しました：ある環境での優れたパフォーマンスが、必ずしも別の環境でも発揮されるとは限らないことです。モバイルデバイス、代替のエージェントハネス、異なる実行フレームワークはすべて、独自の分布シフトの原因をもたらします。 ## Mobile Automation Holo3.1 は、ブラウザおよびデスクトップ制御を超えて Holo3 の機能を拡張し、モバイル環境において大きな性能向上を実現しました。AndroidWorld における評価では、35B-A3B モデルが 67% から 79.3% に改善し、より小規模な 4B および 9B バリアントも 58% から 72% に向上しています。 ## Cross-Harness Performance サードパーティのエージェントスタック内で Holo3 をデプロイするチームをよりよく支援するため、Holo3.1 は、既存の構造化 JSON 出力に加え、関数呼び出しプロトコルに対するネイティブサポートを導入しました。 OSWorld および e コマース、ビジネスソフトウェア、コラボレーションワークフローをカバーする内部ベンチマークスイート全体において、関数呼び出しとネイティブ実行は現在、ほぼ同等のパフォーマンスを達成しています。また、Holo3.1 は、当社の Holotab 製品ハネス内で評価された際、Holo3 を上回る 25% 以上の改善をもたらします。 ## Smaller Sizes for Cost-Performance Tradeoffs さらにローカルおよびオンデバイス推論を可能にするため、最先端のパフォーマンスを提供する大規模な 35B-A3B モデルに加え、コスト効率に優れプライバシー保護が可能なデプロイを実現するための小規模モデル（0.8B、4B、9B）も新たにリリースします。 *Holo3.1 および Qwen 3.5 ファミリーにおけるパフォーマンスとコストの比較。全体のパフォーマンスは、まず 4 つの H Corporate ベンチマークを平均化し（これにより各ファミリーが等しく重み付けされ）、その後 OSWorld、AndroidWorld、H Corporate、ScreenSpot-Pro、OSWorld-G にわたる平均値を算出します。 ## コンシューマー向けハードウェアにおけるローカルエージェントへ向けて これは、量子化された重みを搭載した最初のリリースです。まずは 35B-A3B チェックポイントから開始し、FP8、Q4 GGUF、NVFP4 の形式で提供します。 NVFP4 については、NVIDIA の Model Optimizer を使用して W4A16 構成で処理しました。これらのチェックポイントは、モデル性能へのほとんどないしは全くない低下を伴いながら、Computer Use Agents（コンピュータ操作エージェント）のための高速なローカル推論を可能にします。FP8 と NVFP4 は同じ OSWorld スコアを達成しており、完全精度の BF16 チェックポイントよりもわずか 2 ポイント程度低いだけです。 速度向上は顕著です。DGX Spark 上では、NVFP4 W4A16 は FP8 の総トークンスループットに対して 1.41 倍、BF16 に対して 1.74 倍の性能を発揮します。 ## コンシューマー向けハードウェアでのローカルエージェントの実現 また、Computer Use Agents をコンシューマー向けハードウェアでローカルに展開することを目的とした Q4 GGUF チェックポイントもリリースしました。 エージェント自体は Windows または Mac マシン上でローカルで実行され、モデルはその同じマシン上（Apple Silicon 用の参照数値を含んでいます）で動作するか、または同一ネットワーク上の DGX Spark 上で動作します。どちらの場合でも、実行は完全にプライベートかつローカルに留まり、ユーザーのネットワークから何も外部へ流出することはありません。 Spark において、NVIDIA と共同で開発したエージェント ハーネスの最適化と、前述の NVFP4 量子化を組み合わせることで、FP8 ベースラインと比較してエンドツーエンドで約 2 倍の高速化が実現され、平均ステップ時間が 6.8 秒から 3.3 秒に短縮されました。 *プラットフォームおよび精度ごとのエージェントリクエストレート。DGX Spark 上では、デフォルトモードとファストモードの両方で NVFP4 を採用した vLLM が最高速のリクエストレートを達成し、次いで Q4 GGUF および FP8 が続きます。これらの改善点を含むさらなる機能は、今後のデスクトップ用エージェント ハーネスに実装される予定です。 ## 利用可能性 Holo3.1 ファミリーは 4 つのサイズで提供されています： モデル デプロイメントターゲット Holo3.1-0.8B 超軽量ローカルエージェント Holo3.1-4B コスト効率の高いデプロイメント Holo3.1-9B パフォーマンスとレイテンシのバランス型 Holo3.1-35B-A3B 最先端のパフォーマンス また、ローカルおよびエッジ向けデプロイメント用の最適化された FP8、NVFP4、Q4 GGUF チェックポイントも同時にリリースします。 ## 始め方 - Holo Models API: https://hcompany.ai/holo-models-api - Hugging Face: https://huggingface.co/collections/Hcompany/holo31 開発者が Holo3.1 を用いてどのような成果を築くか、楽しみにしています。

Holo3.1：高速かつローカル環境でのコンピュータ操作エージェント

背景や根拠まで確認しますか？

調べる

選ぶ

サイト