PyTorchエコシステムにPerforatedら10プロジェクトが追加

PyTorchエコシステムワーキンググループは、Perforated、AReaL、TorchJD、RLinf、Miles、SMG、FiftyOne、TokenSpeed、VisualTorch、そしてTorchSurvの10件の新規プロジェクトをPyTorchエコシステム・ランドスケープに迎えることを嬉しく思います。PyTorchエコシステム・ランドスケープは、PyTorchを拡張したり統合したり、あるいはその上に構築される革新的なオープンソースAIプロジェクトを地図として示すものです。

PyTorchエコシステムへの新規追加

Perforated

Perforatedは、学習中にニューロン固有の強化学習シグナルを追加することでモデルのパフォーマンスを向上させる、PyTorch向けのデータ効率化ライブラリです。元々は神経科学研究における画期的な発見に触発されて開発されましたが、このライブラリは逆伝播に軽量な修正を加えるアプローチを採用しています。

Perforatedを利用すれば、利用可能なトレーニングデータからより多くの価値を引き出すことが可能になり、MLチームはコアモデルのアーキテクチャを変更することなく、ラベル付きデータの数を減らして目標性能を達成できます。機械学習全般に広く適用可能ですが、特にエッジAIやコンピュータビジョンのワークロードにおいてその有効性が最も幅広く検証されています。

Perforatedを採用したMLチームでは、既存データのみでエラー率を70%削減し、展開基準を満たすことに成功しました。これにより、痛みを伴うデータ収集とラベル付けのプロセスを大幅に短縮することが可能になっています。

標準的な PyTorch の機能のみを用いて Python で完全に実装された「Perforated」は、PyTorch エコシステムへの公式参加を誇りに思います。チームは、既存のモデルやベンチマークに対して Perforated を最小限の統合労力で評価できるため、開発パイプライン内でデータ効率の向上がもたらす影響を容易に検証できます。私たちは、より高性能なモデルの学習における実用的なアプローチを推進するため、PyTorch コミュニティとの協働を楽しみにしています。

詳細は perforatedai.com でご覧ください。Github でも情報を見ることができます。Perforated Community Slack への参加もお待ちしています。

AReaL

AReaL は、ファウンデーションモデルの学習と、最新の LLM や VLM を活用したエージェントアプリケーションを結びつけるオープンソースのモジュラー型 RL インフラです。完全に非同期な RL 学習パラダイムに基づいて構築されており、標準化されたデータおよび実行インターフェースを通じて、エージェントの構築、展開、評価、ファインチューニングをシームレスに行うことを可能にします。ブラックボックスやオンライン型のエージェントシステムも、侵入的なコード変更なしで、最小限の統合オーバーヘッドで完全な RL 学習ループに組み込むことができます。

AReaL は強化学習（RL）を独立した、組み合わせ可能なサービスに分解することで、柔軟なスケーリング、フォールトトレランス、そしてシステムコンポーネントの個別最適化を実現します。この設計により、vLLM や SGLang、カスタム PyTorch ネイティブの 5D パラレルエンジンなど、多様なトレーニングおよび推論バックエンドとの広範な統合が可能になります。また、PyTorch エコシステム内の他のプロジェクトとも連携できます。AReaL は新規コンポーネントを導入するのではなく、既存のエコシステムの要素を結びつけ、開発から継続的な進化までを含むエージェントシステムのライフサイクル全体を支える実用的なエンドツーエンドのループを構築することに注力しています。

AReaL について詳しくはこちら。

TorchJD

TorchJD は、複数の損失関数を用いてニューラルネットワークを訓練するためのライブラリです。主に以下の 2 つの手法クラスをサポートしています。

• スカラー化：複数の損失を単一のスカラー値に結合し、勾配ベースの最適化器で最小化します。
• ジェイコビアン降下（JD）：各損失に対する勾配を含むベクトルのジェイコビアンを計算し、これを共通の更新方向へ集約して最適化器に渡します。

ジェイコビアン降下の大きな利点は、適切な集約方法を用いればパラメータ更新がすべての損失を同時に減少させることです。ただし、勾配が非常に整合している場合などでは、スカラー化でも十分なケースがあります。当ライブラリの目的は、勾配ベースの多目的最適化手法を包括的に提供し、専門家が異なるアプローチを比較しやすくするとともに、深い専門知識がなくても新規ユーザーがマルチ損失問題の解決に取り組み始められるようにすることです。

私たちは、より多くのユーザーとコントリビューターを集め、コミュニティを拡大することを目指して PyTorch エコシステムに参加しました。TorchJD には将来に向けた多くのアイデアがあり、複数の損失関数を持つモデルのトレーニングに最適なライブラリーとなるよう、コミュニティと共に実現していくことを楽しみにしています。

TorchJD の詳細や Discord コミュニティへの参加については、こちらをご覧ください。

RLinf

RLinf は、ロボットやセンサー、シミュレーター、ツール、Web 環境、コード、マルチエージェントワークフローなどを通じて複雑な実世界との相互作用でモデルが学習される increasingly な世界に対応した、エンボディド AI やアジェンティック AI 向けのオープンソース強化学習フレームワークです。RLinf は、これらのインタラクティブなフィードバックループをスケーラブルなトレーニングと結びつけ、ロールアウト、報酬計算、環境実行、学習のための標準的で再利用可能な構成要素を提供します。その際、多様なハードウェアや複雑な環境の管理という細部は隠蔽し、開発者はそれらに深く入り込むことなく済みます。また、最先端の強化学習アルゴリズムを再現するための「プッシュボタン」レシピも用意されており、エンボディドおよびアジェンティックシステムにおける強化学習の進展を加速させることを支援します。

PyTorch エコシステムの一部として、RLinf はスケーラブルな強化学習（RL）に実世界からの視点を加えます。PyTorch ユーザーは慣れ親しんだモデルコードでプロトタイプを作成できますが、学習・行動・知覚・評価・スケーリングの間の調整や、異種ハードウェア間での処理は RLinf が担当します。ロボットと GPU を同じワークフロー内で同等に扱えるようにすることで、RLinf はエコシステムを支援し、孤立したモデルループを超えて、相互作用を通じて学習する再現可能で拡張性の高いシステムへと進化させることを目指しています。詳細は RLinf のページをご覧ください。

Miles

Miles は RadixArk によって構築・維持されている、大規模モデル向けのオープンソースなポストトレーニングフレームワークです。そのターゲットは、実際のポストトレーニングが実行されるスケール、すなわち最先端のオープン MoE（混合专家モデル）、マルチノードクラスター、そして長時間稼働し続けるジョブです。Miles は SGLang と深く統合されており、新しいモデルアーキテクチャやハードウェアプラットフォームが登場した際にも第一級としてサポートします。また、LoRA、TITO、低精度トレーニングといった生産環境での機能も備えています。このフレームワークは画一的なアプローチではなくカスタマイズ性を重視しており、チームは学習ループを修正したりコンポーネントを交換したり、アルゴリズムを独自のレシピに合わせて適応させることができます。つまり、フレームワークに合わせるのではなく、自社のニーズに合わせて柔軟に調整できるのです。

Miles はすでに研究機関や産業チームによって、大規模なオープンモデルのポストトレーニングに活用されています。RL（強化学習）によるポストトレーニングは、PyTorch ネイティブのトレーニングと高スループット推論が出会う領域であり、Miles はこの 2 つを接続するために設計されています。私たちは PyTorch コミュニティの一員として、この道筋をオープンに発展させるために PyTorch エコシステム・ランドスケープに参加します。

Miles について詳しくはこちら。

SMG

SMG（Shepherd Model Gateway）は、大規模な LLM デプロイメント向けのエンジン非依存型高性能モデルルーティングゲートウェイです。Rust で書かれた SMG は、自己ホスト型の推論エンジン（vLLM、TensorRT-LLM、TokenSpeed、SGLang、MLX など）やクラウドプロバイダーの前に配置され、これらを単一の OpenAI 互換エンドポイントの背後に統合します。そのキャッシュ対応ルーティングは、ラジックスツリーを用いて各ワーカーの KV キャッシュ状態を追跡し、プレフィックスの再利用と GPU の利用率を最大化します。また、ネイティブのストリーミング gRPC パイプラインにより、prefill/decode の非同期化やデータ並列処理を意識したルーティングをサポートしています。

SMG は、優先度ベースの受付スケジューリング、マルチテナンシー、OIDC 対応 API キー認証、WebAssembly プラグイン、自己ホスト型チャット履歴といったエンタープライズグレードの機能に加え、90 以上の Prometheus メトリクスと OpenTelemetry によるトレーシングも提供します。私たちは PyTorch エコシステムへの参加を喜び、コミュニティと共にオープンソースモデルのためのサービング層の構築を続けていきます。

SMG について詳しくはこちら。

FiftyOne

FiftyOne は、物理 AI 向けのマルチモーダルデータプラットフォームです。画像、動画、LiDAR やレーダーといったセンサーストリームにわたるデータをインデックス化し、検索・キュレーション・アノテーション・モデル評価を可能にすることで、開発者がより優れたモデルを構築するのを支援します。

FiftyOne は、ML チームが初期のデータセット探索から本番環境でのモデルデバッグに至るまで、モデルパフォーマンスを向上させる失敗モードやデータ品質の問題、エッジケースを発見するためのツールを提供します。

FiftyOne は、開発の全工程において PyTorch とネイティブに統合されています。チームは PyTorch Hub から事前学習済みモデルを直接読み込んで推論・埋め込み・評価を行うことができ、別々のデータセット定義を維持することなく、PyTorch のトレーニングパイプライン内で FiftyOne データセットを活用できます。すでに数千のチームがこの方法で作業しており、PyTorch でモデルを訓練し、FiftyOne を使ってそのモデルが学習するデータを理解・キュレーション・改善しています。

この PyTorch エコシステムへの参加により、私たちはこのワークフローをさらに向上させることができます。物理 AI が研究段階から本番環境へと移行する中で、これらのシステムに不可欠なデータツールリングについて、PyT コミュニティと協力していくことを楽しみにしています。

FiftyOne に関する詳細はこちらをご覧ください。

TokenSpeed

TokenSpeed はオープンソースの LLM 推論エンジンであり、制御プレーンと実行プレーンを分離した初のシステムです。制御プレーンは C++ で実装された有限状態機械として機能し、型システムを活用してリクエストのライフサイクルや KV キャッシュの状態といったリソース管理を、実行時ではなくコンパイル時に安全に保証します。一方、実行プレーンは Python で実装されており、研究者やエンジニアが迅速なイテレーションを行い、認知負荷を下げることを可能にしています。

このアーキテクチャにより、コアのスケジューリングシステムには堅牢な正しさの保証を備えつつ、高レベルの実行レイヤーならではの開発速度も両立させています。

TokenSpeed はカーネルを第一級かつモジュール的なサブシステムとして扱い、ポータブルな公開 API、中央集権型のレジストリと選択モデル、そして異種アクセラレーター向けの拡張可能なプラグイン機構を通じて、コアエンジンから分離しています。私たちは PyTorch エコシステムに参加し、オープンソースモデル向けに高性能で拡張性の高い推論基盤を構築するために、より広いコミュニティと連携していきます。

スケジューラー層とカーネル層の両方をモジュール化・拡張可能にすることで、TokenSpeed は本番環境での推論システムにおいて、新しいモデルやハードウェアプラットフォーム、最適化手法への対応を容易にすることを目指しています。

TokenSpeed については詳しくはこちらをご覧ください。

VisualTorch

VisualTorch は、研究者やエンジニアがニューラルネットワークのアーキテクチャを出版レベルの図として作成できるよう支援するオープンソースの PyTorch 可視化ライブラリです。実際の順伝播（フォワードパス）を追跡するため、分岐構造を持つアーキテクチャやカスタムのフォワードロジックも自動的に捕捉されます。また、モデルの構造を層ごとに積み上げていくアニメーション GIF の表示など、複数のビジュアルスタイルに対応しています。

VisualTorch はすでに Nature、IEEE、Elsevier、MDPI などの学術誌で発表された研究で活用されています。PyTorch Ecosystem Landscape に登録されることで、信頼性の高い可視化・コミュニケーション手段を必要とする PyTorch の研究者やエンジニアにより多く届くとともに、成長し続ける PyTorch コミュニティとのつながりもより強固になります。

VisualTorch について詳しくはこちらをご覧ください。

TorchSurv

TorchSurv は、産業界、規制科学、学術界を跨ぐ共同研究によって開発された軽量な PyTorch ネイティブのツールキットです。その目的はシンプルで、生存分析モデリングを直接 PyTorch に組み込むことです。パッケージを焦点を絞り、軽量かつ十分にテスト済みに保つことで、研究者は別のフレームワークを導入することなく、深い生存モデルの構築・評価・拡張に必要な信頼性の高いツールを手に入れることができます。

TorchSurv は、Cox 比例ハザードモデルや Weibull AFT（加速故障時間モデル）といった完全微分可能な生存分析用損失関数を提供し、コンコードンス指数、時間依存型 AUC、Brier スコアなどの評価ツールも備えています。これらはすべて、標準的な PyTorch のトレーニングループや任意のニューラルネットワークアーキテクチャとシームレスに連携するように設計されています。

リリース以来、TorchSurv は研究コミュニティで急速に支持を集めています。がん治療、医療画像解析、マルチモーダル AI といった分野での応用事例が多数報告されており、NeurIPS での発表や Nature npj Digital Medicine への掲載など、学術的な成果にも貢献しています。また、Journal of Open Source Software にも論文として掲載され、FDA（米国食品医薬品局）の規制科学ツールカタログにも登録されています。

TorchSurv の詳細については、以下のリンクをご覧ください。

PyTorch エコシステム・ランドスケープへの参加方法

PyTorch コミュニティを支援するプロジェクトを開発中の方は、エコシステム・ランドスケープへの掲載申請が可能です。申請前に必ず PyTorch Ecosystem Landscape Review Process（エコシステム・ランドスケープ審査プロセス）を確認し、最低限の要件を満たしているかご確認ください。