Hugging Face のあらゆるモデルをデプロイ・推論可能に
本文の状態
日本語全文を表示中
詳細モードで約6分の本文を読めます。
同じ出来事の情報源
この情報源を基点に整理
Together AI Blog
開発者が Hugging Face に公開された任意の機械学習モデルを、環境を選ばずに迅速に展開し、推論処理を実行できる機能を新たに提供した。
Source Article
元記事を日本語で読む
本文に関係しない購読案内、埋め込み通知、サイト内プロモーションは除いています。
開発者の働き方において、実際に大きな変化が起きています。エージェントは、技術的に不可能だったからではなく、私たちがほとんど持っていなかったニッチな専門知識を必要としたためにこれまで手がつけられていなかった業務にアクセスする道を開きます。コンテナ化、推論サーバーの設定、モデル固有の環境構築:これらは、始める前に深い専門知識か、あるいは数時間の自己学習を要していたようなタスクの典型です。エージェントは、そうした前提となる知識のギャップを埋めるためのエレガントな手段を提供します。あなたが何を望むかを記述するだけで、エージェントがその知識のギャップを埋めてくれます。
それが鍵となります。スピードではありません。*アクセス*です。
Netflix が新モデルを発表した日
Netflix は最近、Hugging Face 上で void-model をリリースしました。発表されたその日の私の直感はいつも通りでした。「これを試してみたい」と思うことと、実際に*動かす*ことは別問題です。使用可能な環境に導入し、推論サーバーの設定を処理し、コンテナ構成を理解し、すべてを正しく接続する:これが通常、「これはクールだ」と「さて、実際に使い始める」の間に1〜2日の遅れを生じさせる部分です。
今回は、その遅れはほぼゼロでした。
Goose という CLI エージェントランナーと、Together の 専用コンテナスキル を組み合わせることで、「Netflix が新しいモデルをリリースした」という段階から、「そのための実行中のコンテナが手に入った」状態へ、たった 1 セッションで移行できました。エージェントは、Void モデルを Together の専用コンテナ推論(DCI: Dedicated Container Inference)インフラ上にデプロイするために必要なコードをすべて生成し、実質的にリリース当日に完了させました。
その出力はこちらにあります:github.com/blainekasten/together-void-model-container
私が実際にやったこと
セットアップ全体は 3 つのステップで完了しました。
ステップ 1: Together の専用コンテナスキルをインストールする。
npx skills add togethercomputer/skills

これにより、together-dedicated-containers スキル が取得され、Goose に対して Together のインフラと連携するために必要な特定の知識が提供されます。具体的には、推論サーバーの設定方法や、コンテナ仕様がどのようなものであるべきか、特定のモデルのためにすべての要素をどのように接続するかといった内容です。
ステップ 2: Goose セッションを開始し、1 つのプロンプトを実行する。
I want to deploy this model on togethers dedicated containers https://huggingface.co/netflix/void-model

以上です。たった一言で済みました。
ステップ 3: 落ち着いて動作を確認する。
そこから、エージェントは Hugging Face からモデルの詳細情報を取得し、そのモデルアーキテクチャに適した推論サーバーの構成を特定し、コンテナ設定ファイルを生成しました。そして、私が何かを検索したり、個別の手順でガイドする必要もなしに、完全で実行可能なセットアップを完成させました。
結果として得られたのは、blainekasten/together-void-model-container, というクリーンで動作するリポジトリです。これを使えば、誰でも Together インフラ上で void-model を実行できます。
ステップ 4: モデルを使用しよう!
エージェントがアプリケーションをデプロイした後、そのモデルに対して推論を実行し始めることができます。Together CLI には、簡単に推論テストを行うためのコマンドが用意されています。
tg beta jig submit --watch --payload '{
"video_url": "https://github.com/Netflix/void-model/raw/refs/heads/main/sample/lime/input_video.mp4",
"quadmask_url": "https://github.com/Netflix/void-model/raw/refs/heads/main/sample/lime/quadmask_0.mp4",
"prompt": "Empty park bench with fallen leaves on the ground",
"use_pass2": false
}'
このモデルは、動画からオブジェクトを除去するだけでなく、それらがシーンに引き起こすすべての相互作用も同時に除去します。影や反射といった二次的な効果だけでなく、人物が除去された際に物体が落下するような物理的な相互作用まで処理可能です。
このモデルを用いた推論呼び出しは非同期です。したがって、このリクエストの応答には、ポーリング可能な識別子を含むペイロードが返されます。応答は以下のようになります:
{
"model": "void-byoc",
"request_id": "019dc0f3-3c73-7a3f-b4b6-87ad06091180",
"status": "running",
"claimed_at": "2026-04-24T19:24:19.447457Z",
"created_at": "2026-04-24T19:24:19.444567Z",
"done_at": null,
"info": null,
"inputs": {
"prompt": "Empty park bench with fallen leaves on the ground",
"quadmask_url": "https://github.com/Netflix/void-model/raw/refs/heads/main/sample/lime/quadmask_0.mp4",
"use_pass2": false,
"video_url": "https://github.com/Netflix/void-model/raw/refs/heads/main/sample/lime/input_video.mp4"
},
"outputs": null,
"priority": 1,
"retries": null,
"warnings": null
}
推論が完了すると、出力にはホストされたビデオへの URL が含まれます。これを cURL と Together API キーを使用してダウンロードできます:
curl -L -O \
https://api.together.ai/v1/storage/019dc0f3-3c73-7a3f-b4b6-87ad06091180-tmpddmhtvar.mp4 \
--header "Authorization: Bearer $TOGETHER_API_KEY"
注釈:-L はストレージ URL の HTTP リダイレクトに従うために必要であり、-O は出力をローカルファイルに書き込みます。
なぜ Together Dedicated Container Inference (DCI) か
このストーリーが成立するのは、Together の Dedicated Container Inference(専用コンテナ推論)がこのようなモデルを実行するのに真に優れた場所だからです。その理由について説明する価値があります。
DCI は、Together が完全に管理するプライベートな GPU ベースの環境を提供し、お好みのモデルを実行できます。共有リソースを巡って争う必要も、ご自身でクラスターを設定する必要も、利用可能なモデルの固定されたメニューに縛られることもありません。モデルはあなたが持ち込み、インフラストラクチャは Together が担当します。
これは、迅速に進めたいチームにとって大きな意味を持ちます。Netflix から新しいモデルがリリースされたり、研究機関やオープンソースコミュニティから新モデルが登場したりした場合でも、すぐに本番環境で稼働させることが可能です。ご自身で GPU VM を起動する必要も、推論サーバーの依存関係に苦労する必要も、管理されたエンドポイントでサポートが追加されるのを待つ必要もありません。DCI は設計段階から柔軟性を備えており、モデルが存在する限り、デプロイが可能です。
コストモデルも実験を容易にします。基盤となる計算リソースの管理オーバーヘッドなしに、あなた専用のコンテナ上で使用した分だけ支払いを行います。これは、「時間ができたときに」と後回しにするのではなく、新しいモデルのテストに「はい」と答えることのできるようなセットアップです。
Together の DCI にご興味をお持ちの場合は、お問い合わせフォーム よりご連絡ください。
関連記事
今日のまとめ
AIデイリーブリーフで今日の重要ニュースをまとめ読み