Qwen2.5-1M：最大100万トークンのコンテキスト長で独自のQwenをデプロイ

Tech Report HuggingFace ModelScope Qwen Chat HuggingFace Demo ModelScope Demo DISCORD

Introduction 2 ヶ月後に、Qwen2.5-Turbo のコンテキスト長を最大 100 万トークンに拡張するアップデートが行われてから、私たちはオープンソースの Qwen2.5-1M モデルと、それに対応する推論フレームワークのサポートを提供するために再び登場しました。今回のリリースで期待できることは以下の通りです：

オープンソースモデル：Qwen2.5-7B-Instruct-1M と Qwen2.5-14B-Instruct-1M の 2 つの新しいチェックポイントを公開します。これは、オープンソースの Qwen モデルを 100 万トークンコンテキストに対応させるためにアップグレードした初めての事例となります。