Foundry 管理コンピューティング上の Hugging Face モデル

記事一覧に戻る

Microsoft Build 2026 で発表された「Foundry Managed Compute」と「Hugging Face モデルの Foundry 上での利用」は、Hugging Face エコシステムから厳選されたオープンウェイトモデルを週次で更新し、ワンクリックで Foundry Managed Compute にデプロイできるカタログです。モデルの重み（weights）は Azure 上に事前配置済みで、ランタイムは Microsoft によって構築・スキャンされています。コレクション内のすべてのモデルには、Foundry 上の他のどのモデルにも適用される同等のエンタープライズセキュリティ、ガバナンス、観測性、課金機能が備わっています。

プラットフォーム：Microsoft Foundry と Managed Compute

Microsoft Foundry は、エージェント型 AI アプリケーションを構築・運用するためのプラットフォームです。Foundry は、あらゆるクラウド上で最も広範なモデル選択を提供することから始まります。Microsoft、OpenAI、Anthropic、Meta、Mistral、DeepSeek、Hugging Face などからのモデルが揃っており、最先端モデル、オープンソースモデル、カスタムウェイトを網羅しています。これらはすべて、Python、C#、JavaScript、Java 用の単一のエンドポイントと SDK セットを通じてアクセス可能です。

これらのモデルの上に位置するのが「Foundry Agent Service」です。これは、組み込みメモリ機能を持つマルチエージェントのオーケストレーションを提供します。また、Foundry IQ を通じた知識の根拠付け（knowledge grounding）や、アジェンティックプロトコルを介して接続可能なツールのカタログも用意されており、エージェントがエンタープライズデータと連携して動作できます。エージェントの実行後は、Foundry がエンドツーエンドのトレーシング、リアルタイムモニタリング、継続的な評価、そして評価結果に基づいてエージェントの振る舞いを改善するプロンプトオプティマイザーを提供します。これらはプラットフォームの一部として機能する観測性と品質向上ループです。

これらに加えて、開発者は以下のような機能を利用できます。

• コンテンツの安全性フィルタ
• タスク遵守のためのガードレール
• 敵対的テスト用の AI レッドチームエージェント
• 統合された RBAC（ロールベースアクセス制御）
• プライベートネットワーク
• プラットフォーム内で直接利用可能な Azure Policy の連携

トークン課金（導入のハードルが最も低い方法）と、プロビジョニング済みスループット（最先端モデル向けの予測可能で高パフォーマンスな生産環境向け）に加え、Foundry Managed Computeは Foundry における3つ目のデプロイオプションです。これはオープンソースおよびカスタムモデル向けの管理型 GPU プラットフォーム・アズ・ア・サービスです。

開発者は、ワークロードにとって重要なパラメータ（パラメータ数やコンテキスト長、レイテンシ最適化かスループット最適化かの選択など）に基づいてモデルインスタンスを定義するだけでよく、Foundry が背後の GPU トポロジを管理します。1 つのアクセラレーターに配置されるのか、複数のアクセラレーターに分散されるのかは開発者が意識する必要はありません。モデル単位で思考し、計画することが可能です。

Microsoft がマシンの運用を担います。コンテナの更新やランタイムのアップグレード、セキュリティパッチ適用などは、サポート対象のランタイム（vLLM, SGLang, TensorRT-LLM, NIM, TEI, llama.cpp）において自動的に実施され、モデルの再デプロイは不要です。一方、モデルの設定やデプロイ動作、ルーティング制御は開発者が引き続き管理できます。

この一貫性は開発者向けのインターフェースにも反映されており、トークン課金、プロビジョニング済みスループット、Managed Compute は以下の共通点を持っています。

• 単一のエンドポイント
• 同じ SDK
• 同じ認証方式
• 同じ観測性（オバザビリティ）機能
• 単一の請求書

オープンソースモデルは、ファウンデーション・エージェンツにおいてフロンティアモデルと同じように統合されるため、単一のエージェント内で異なる種類のモデルを混在させることができ、個別の統合経路は不要です。

マネージド・コンピューティングでは以下が提供されます：

• グローバル展開 — 最も広範な容量と最良の価格設定
• データゾーン展開 — データの所在地と主権の確保

コードもワークフローも共通です。クォータはアクセラレータファミリーに整合しているため、今日 H100 ファミリーを基盤としたプランは、新しいハードウェア世代が稼働してもそのまま引き継がれます。

なぜ Hugging Face か

Hugging Face はオープン AI の公共広場です：1500 万人のビルダー、40 万組織、そして 300 万以上の公開モデルが掲載されており、アジェンティック・コーディング、ビデオセグメンテーション、音声処理、埋め込みなど、新しいフロンティア機能が毎週追加されています。これはオープンモデルのための GitHub であり、コミュニティが重み付けを公開し、モデルカードを作成し、評価を比較し、実験のためにモデルを引き出す場所です。

オープンモデルはベンチマークでプロプライエタリモデルとの差を縮め、プロプライエタリなエンドポイントでは実現できないことを可能にしています：

• 最先端技術がオープン化。 主要なオープンウェイトモデルは、最も広く使用されるベンチマークにおいて、トップクラスのプロプライエタリ・フロンティアモデルと競合するレベルにあります。

• 深いカスタマイズが可能。 フルウェイトを入手できるため、ファインチューニング、知識蒸留、量子化、LoRA による適応などが可能で、ドメインやデータ、レイテンシやコストの目標に合わせてモデルを最適化できます。

モデルはあなたが管理し、ホスティングも自分で。重み付けされたモデルは、あなたが管理するインフラ上のテナント内で実行され、推論エンドポイントの背後で、あなたのアイデンティティとネットワーク境界の中で動作します。

コスト制御も自在です。アクセラレータは時間単位で課金され、アイドル時にはスケールゼロにできます。また、特定のモデルに合わせて GPU を最適サイズに調整可能。トークン単価の予測が難しい、安定した高ボリューム処理やレイテンシが敏感なワークロードにおいて特に役立ちます。

バージョン管理も確実です。特定のモデルバージョンを固定し、評価・デプロイを行い、リリーススケジュールに応じて進捗させたりロールバックしたりできます。

しかし、これまで課題となってきたのは運用層でした。モデルの発見、ライセンス確認、セキュリティスクリーニング、ランタイム選択、GPU サイズ調整、イメージ構築、CVE パッチ適用、そしてエンタープライズグレードのエンドポイント背後でのモデル起動などです。Hugging Face 単体では、エンタープライズ向けのサービスプラットフォームではありません。Foundry 上の Hugging Face モデルこそが、その運用層であり、Microsoft が運営しています。

Foundry 上の Hugging Face モデル

Hugging Face コレクションにより、厳選されたモデル群が直接 Foundry Model Catalog に追加されます：

• 毎週更新 — Hugging Face エコシステムで注目を集めるモデルは、コミュニティによって公開されるたびに継続的に追加されます。

• あらゆるモダリティに対応 — テキスト、ビジョン、オーディオ、マルチモーダル。チャットやエージェント向けの LLM や VLM、音声認識（ASR）と音声翻訳、埋め込みベクトル、セグメンテーション、画像生成など。

「Safetensors のみ、信頼できないコードは禁止」 — コレクション内のすべてのモデルはセキュリティ審査を通過し、SafeTensors 形式で提供されます。厳格なレビューを経ない限り、trust_remote_code を実行するパスはありません。

「モデルに最適なランタイムの提供」 — LLM には vLLM と SGLang、TensorRT-LLM や NIM が適用可能な場合、埋め込みには TEI、CPU 向けには llama.cpp を使用します。Foundry は各モデルに最適なエンジンを選定します。

利用者側から見れば、Hugging Face コレクション内のオープンウェイトモデルは、Foundry モデルカタログの他のどのモデルと同様に動作し、表示されます。コレクション内のすべてのモデルは、そこに表示される前に多段階の公開パイプラインを通過しています。

選別パイプライン

Hugging Face と Microsoft は、体系的な選別プロセスを通じて、Hugging Face エコシステムで最も人気のあるオープンウェイトモデルを Microsoft Foundry に提供します。これらは企業環境ですぐに運用可能な状態になっています。

• トレンドのモデルを特定 — コミュニティからのフィードバック、パートナーからの要望、顧客の需要に基づき、Hugging Face エコシステム内で注目されているモデルを特定し、企業での利用に適した候補を選定します。

• コンプライアンスとセキュリティの審査 — モデルライセンスは Microsoft の企業向け配布ポリシーに照らしてレビューされます（ライセンスメタデータはカタログ上のモデルカードに記録・保持されます）。また、リポジトリ内では trust_remote_code パターンやカスタム実行コードが検査されます。ロード時にサードパーティの Python コードの実行を必要とするモデルは、修正されるか、あるいは除外されます。

・ランタイムの構築、スキャン、公開 — Microsoft は、サポート対象のランタイム（vLLM、SGLLang、TensorRT-LLM、NIM、TEI、llama.cpp）上で推論用コンテナイメージをビルドします。その後、CVE に対する脆弱性チェックを実施し、署名して Microsoft が管理するコンテナレジストリに公開します。

・重みの安全な Azure ストレージへのアップロード — モデルの重みは Hugging Face から一度だけ取得され、公開されたモデルカードと照合されて検証されます。その後、そのモデルが提供されるリージョンにある Microsoft 管理の Azure ストレージに保存されます。

・カタログへの検証と公開 — すべての「モデル＋ランタイム＋アクセラレータ」の組み合わせについて、API の適合性（チャット完結、埋め込み、再ランク付けなど）とパフォーマンス（レイテンシ、スループット、初回トークンまでの時間、トークン間デコード時間）がテストされます。検証済みのモデルは、そのテンプレート、ランタイムイメージ、重みとともに Foundry Model Catalog に公開され、Managed Compute 上へのワンクリック展開パスが提供されます。

重みが事前に Azure ストレージに配置され、ランタイムイメージが Microsoft 管理のレジストリに存在するため、Hugging Face Hub へのアウトバウンドネットワークアクセスは不要です。プライベートネットワーク内でも本番環境へデプロイできます。

モデルランタイム

Foundry 上で動作する Hugging Face のモデルは、コミュニティが構築した多様なオープンソース推論ランタイムによって支えられています。これらのランタイムはそれぞれ Foundry Managed Compute に最適化され、対応するモデルアーキテクチャに最も適したものとして選定・調整されています。すべてのランタイムで共通しているのは、体系的なキュレーションプロセスにより、新バージョンやパッチが迅速に導入される点です。既存のモデルデプロイメントも自動的にアップグレードされるため、再デプロイの手間は不要です。

• vLLM — オープン大規模言語モデル向けのデフォルト高スループット推論エンジンで、本番環境での GPU ワークロードに最適化されています。Hugging Face は vLLM の直接コントリビューターであるため、Transformers ライブラリのあらゆるモデルをカスタム統合なしでそのまま vLLM で実行できます。つまり、新しいモデルが Hugging Face に登場したその日に Foundry でも提供可能となります。

• SGLang — 言語モデルやマルチモーダルモデル向けの推論エンジンです。エージェント型ワークロードやツール使用ワークロードに不可欠な構造化出力（JSON、正規表現、文法制約付き生成）を強力にサポートしています。Hugging Face と SGLang チームは SGLang のための Transformers バックエンド統合を開発しました。これにより、Transformers ライブラリのモデルはすべてカスタム設定なしで SGLang で動作し、Hugging Face に登場したその日に Foundry へ展開されます。

Text Embeddings Inference (TEI) は、埋め込みモデル、リランカー、シーケンス分類モデルのためのランタイムです。Foundry がサポートする各 GPU および CPU ファミリー向けにコンパイルされたカーネルを備えたアクセラレーター固有のイメージが提供されるため、RAG やセマンティック検索ワークロードにおいて埋め込みのホットパスを軽量に保つことができます。

llama.cpp は、GGUF 量子化モデル向けの CPU および小規模 GPU 用のパスです。コスト最適化されたデプロイメントや、小規模モデル、CPU のみに対応するリージョンでの利用に適しており、vLLM や SGLang と同じ OpenAI 互換 API を提供します。

TensorRT-LLM と NIM は、NVIDIA ハードウェア上で使用されます。NVIDIA が最適化したカーネルと Triton ベースのサービングにより、特定のモデルファミリーにおいて遅延やスループットが大幅に向上します。

hf-serve は Hugging Face 独自のマルチモデル推論サーバーです。LLM や埋め込みの高速パス以外のアーキテクチャ（ビジョン、オーディオ、セグメンテーション、その他の Transformers ネイティブパイプライン）に対応し、Collection がすべてのモダリティを一貫したサービングレイヤーでカバーできるようにします。

オープンウェイトモデルのデプロイとスコアリング

Foundry Model Catalog 内の Hugging Face Collection がスタート地点となります。デプロイは以下の 5 つの手順で行われます。

• カタログを閲覧してモデルを選択 — デプロイウィザードでは、SDK や REST を介してスクリプトでデプロイする際に必要なモデル ID、デプロイメントテンプレート ID、acceleratorType も表示されます。

• デプロイメントテンプレートを選択 — 遅延最適化かスループット最適化か、アクセラレーターファミリー、コンテキスト長、量子化方式などを指定します。

• インスタンス数の設定 — モデルのインスタン数を追加してスループットをスケールします。

• デプロイ — ポータル、CLI、SDK、または REST API から実行できます。

• スコアリング — すでに使用している SDK を通じて、統一された Foundry エンドポイント経由で実行します。

デプロイメントテンプレート

デプロイメントテンプレートはステップ 2 で選択する基本単位です。これは名前付きかつバージョン管理された資産であり、ランタイム、アクセラレータファミリーとその数、コンテキスト長、モデルを適切に提供するために必要なランタイム固有のチューニングを固定します。つまり、「このモデルをどのように実行したいか」を決める唯一の調整項目がテンプレートを選ぶことです。

例えば qwen3-32b には、デプロイウィザードで並列に表示される 4 つのテンプレートが付属しています。

各テンプレートには、モデルごとに事前調整が施されています。実行時の設定、ツール呼び出しおよび推論パーサー、スコアリングパス、ヘルスプローブ、リクエストの並列処理数、そしてモデル固有のコンテキスト拡張設定などはすべて Microsoft によって設定されており、トレードオフについてはテンプレートの説明内に注釈として明記されています。

デプロイをスクリプト化する際は、このテンプレートを参照するだけでよく、Foundry が残りの処理を自動的に担当します。

Deploy — Python SDK

from azure.identity import DefaultAzureCredential
from azure.mgmt.cognitiveservices import CognitiveServicesManagementClient

client = CognitiveServicesManagementClient(DefaultAzureCredential(), SUBSCRIPTION_ID)

deployment = client.managed_compute_deployments.begin_create_or_update(
    resource_group_name=RESOURCE_GROUP,
    account_name=ACCOUNT_NAME,
    deployment_name="qwen3-32b",
    resource={
        "sku": {"name": "GlobalManagedCompute", "capacity": 1},
        "properties": {
            "model": "azureml://registries/azure-huggingface/models/qwen--qwen3-32b/versions/1",
            "deploymentTemplate": "azureml://registries/azure-huggingface/deploymenttemplates/qwen--qwen3-32b--40k-nvidia-h100/labels/latest",
            "acceleratorType": "H100_80GB",
        },
    },
).result()

Score — OpenAI SDK

デプロイされたモデルは、統一された Foundry エンドポイントを通じて OpenAI SDK で利用可能です。model フィールドには、先ほど作成したデプロイ名を指定します。

from openai import OpenAI

api_key  = client.accounts.list_keys(RESOURCE_GROUP, ACCOUNT_NAME).key1
endpoint = f"https://{ACCOUNT_NAME}.services.ai.azure.com/openai/v1"

openai_client = OpenAI(base_url=endpoint, api_key=api_key)

completion = openai_client.chat.completions.create(
    model=deployment.name,
    messages=[{"role": "user", "content": "What is the capital of France?"}],
)

print(completion.choices[0].message)

Use It in an Agent

コレクションから取得したチャット完結モデルは、Foundry Agents において管理者接続モデルとして登録され、Foundry Responses API を介して呼び出すことができます。使用する OpenAI SDK はそのまま利用可能で、認証、エンドポイント、観測性（オバザビリティ）も共通です。

What's Available Today

現在プレビュー版として提供中: Microsoft Foundry Model Catalog 内の Hugging Face Collection です。あらゆるモダリティにわたる数千のモデルが用意されており、毎週更新されます。NVIDIA A100、NVIDIA H100、AMD MI300X アクセラレーターを搭載した Foundry Managed Compute 上でデプロイ可能です。グローバルおよびデータゾーンのスコープに対応し、統一された Foundry エンドポイントを通じてアクセスできます。

Playground のサポート、Azure Monitor を活用した本格的なメトリクス収集、デプロイごとの課金タグ付け機能も備わっており、ランタイムのアップグレードや CVE パッチ適用は自動的に実行されます。

プレビューへの参加はこちらから: forms.cloud.microsoft/r/8Jnx1LALLA

今後のロードマップでは、Hugging Face エコシステムの対応範囲をさらに広げ、追加のアクセラレーターファミリを追加するとともに、コレクションモデルと同じテンプレートとガバナンスを通じて展開されるファインチューニング済みおよび独自変種用の「Bring Your Own Weights」にも対応します。

Hugging Face はオープンソースモデルが公開・発見される場所です。一方、Microsoft Foundry は、Azure 上にホストされたキュレーション済みかつライセンス・セキュリティ審査済みのウェイト、コミュニティによって構築され CVE スキャン済みのランタイム、そしてエンタープライズアイデンティティ、ネットワーク、観測性、エージェント統合を備えた単一のエンドポイントの背後で、それらを運用化する場所です。つまり、オープンソースエコシステムの広範な可能性に、Microsoft が提供する運用層が支えられています。

Foundry Managed Compute の詳細（価格設定、アクセラレーター SKU、データ所在地、エンタープライズ対応状況、観測性、および Responses API とメモリパターンの全体像）については、Managed Compute 発表ブログ をご覧ください。