vLLM Blog公式発表·2026年9月7日 09:00·約28分

vLLM、Tenstorrentアクセラレータ対応プラグイン「TT Plugin」を公開

#LLM #vLLM #Tenstorrent #TT-Metal #インフラストラクチャ

整理・翻訳:ainew.jp 編集システムAIによる自動処理作り方と限界

本文の状態

日本語全文あり

詳細モードで約28分の本文を読めます。

同じ出来事の情報源

この情報源を基点に整理

vLLM Blog

30秒でわかる

vLLM は Tenstorrent アクセラレータを標準プラグイン機構で統合し、GPU と異なるアーキテクチャ特性を持つハードウェア上で LLM サービングを実現する vLLM TT Plugin を公開した。

記事の3ポイント

vLLM TT Plugin の公開と仕組み
Tenstorrent アクセラレータを vLLM に統合する標準的なアウトオブツリープラグインが公開され、ttnn が利用可能になると自動的にハードウェアが検出・登録される。
GPU とは異なるアーキテクチャへの対応
Tenstorrent デバイスは GPU と外観や動作原理が大きく異なり、このプラグインによりフェーズ制約スケジューラや独自のデータ並列トポロジをコア外で実装可能となった。
対応モデルアーキテクチャの拡大
Llama 3.1〜3.3、Qwen 2.5/3/3.5/3.6、Mistral、Gemma 3/4、DeepSeek V3 など主要な LLM アーキテクチャが TT プレフィックス付きのクラスとしてサポートされる。

なぜ重要か・誰に関係するか

この発表が重要なのは、LLM サービングフレームワークが GPU に依存しない汎用的なアーキテクチャ抽象化を実現し、Tenstorrent のような特殊なハードウェアでも高性能な推論が可能になる道を開いたからだ。開発者や企業の AI 導入担当者は、既存の vLLM 運用フローを維持しつつ、コスト効率や電力効率に優れた Tenstorrent ハードウェアへの移行を検討する際の具体的な技術的根拠を得る必要がある。