Hugging Face に「Laguna S 2.1」公開
Poolside AI が、100万トークンのコンテキストウィンドウとエージェントコーディングに特化した大規模MoEモデル「Laguna S 2.1」をオープンソースでリリースした。
キーポイント
超大規模なコンテキストウィンドウの実現
1,048,576トークン(約100万語)のコンテキストウィンドウをサポートし、長文書や長時間の対話処理を可能にする。
エージェントコーディングに特化したアーキテクチャ
118Bパラメータ(活性化8B)のMoE構造を採用し、思考とツール呼び出しをインターリーブさせるネイティブな推論機能を備える。
高性能なアテンション機構の採用
グローバルアテンションとスライディングウィンドウアテンションを混合したレイアウト(1:3)や、グループ化クエリアテンションを採用し、効率性を最大化している。
多様なデプロイメント形態の提供
FP8、NVFP4、INT4、GGUFなどの量子化バリアントや、低遅延化のためのDFlashドラフトモデルが利用可能で、OpenRouterやVercel AI Gatewayでの利用もサポートされている。
超長文コンテキストとハイブリッドアテンション
104万トークンのコンテキストウィンドウをサポートし、グローバルアテンションとスライディングウィンドウアテンションを混合したレイアウトを採用しています。
エージェントコーディングに特化した推論機能
ツール呼び出しの間に思考(reasoning)を交互に行うネイティブな推論サポートを持ち、リクエストごとに `enable_thinking` パラメータで制御可能です。
多様な最適化形式と商用利用可能なライセンス
FP8、NVFP4、INT4、GGUFなどの量子化バリアントが提供され、OpenMDW-1.1 ライセンスにより商用・非商用を問わず自由な利用と改変が可能です。
重要な引用
Laguna S 2.1 is a 118B total parameter Mixture-of-Experts model with 8B activated parameters per token, designed for agentic coding and long-horizon work.
Native reasoning support: interleaved thinking between tool calls, with per-request control via enable_thinking
OpenMDW-1.1 license: Use and modify the model and associated materials freely for commercial and non-commercial purposes
"interleaved thinking between tool calls, with per-request control via enable_thinking"
"Use and modify the model and associated materials freely for commercial and non-commercial purposes"
Terminal-Bench 2.1, SWE-bench Multilingual, SWE-Bench Pro (Public Dataset), DeepSWE, SWE Atlas (Codebase QnA), Toolathlon Verified
影響分析・編集コメントを表示
影響分析
このリリースは、長文脈処理と自律的なエージェント動作という2つの重要な課題に対して、実用的かつ高性能なオープンソースソリューションを提供した点で画期的です。特に100万トークンのコンテキストウィンドウをMoEアーキテクチャで実現し、商用利用可能なライセンスで公開されたことは、開発者が大規模な文書解析や複雑なタスク自動化を行う際の基準を大きく引き上げるでしょう。
編集コメント
100万トークンという圧倒的なコンテキストウィンドウを、MoEアーキテクチャと効率的なアテンション機構で実現した点は技術的に非常に興味深いです。また、エージェントとしての自律推論機能をネイティブにサポートしつつ、OpenMDWライセンスで商用利用を許可している点は、実務現場での導入ハードルを大きく下げる画期的な動きと言えます。
OpenRouter で利用する · Vercel AI Gateway で利用する · リリースブログ記事
Laguna S 2.1 は、エージェントによるコーディングや長期にわたるタスク実行を目的とした、総パラメータ数 1180 億の混合専門家(MoE)モデルです。トークンあたりの活性化パラメータ数は 80 億で、Laguna シリーズ内の Laguna XS 2.1(33B-A3B)と Laguna M.1(225B-A23B)の間に位置しています。このモデルは、シリーズ共通の設計思想を受け継いでおり、256 のルーティング済み専門家と 1 つの共有専門家の間でソフトプラス関数を用いてゲート制御を行うトークン選択ルーター、グループ化クエリアテンション(GQA)、そしてフルアテンションとスライディングウィンドウアテンションを交互に配置したアーキテクチャを採用しています。
ハイライト
- SWA とグローバルアテンションの混合レイアウト: グローバルアテンション層 12 層、スライディングウィンドウアテンション(SWA)層 36 層を含む全 48 層で構成され、両者の比率は 1:3 です。ウィンドウサイズは 512 で、ソフトプラス関数によるアテンションゲート制御と、レイヤータイプごとの回転尺度(rotary scales)が適用されています。
- 1M コンテキスト: 1,048,576 トクンのコンテキストウィンドウをサポートします。
- ネイティブ推論機能: ツール呼び出しの間に思考プロセスを挿入可能で、
enable_thinkingパラメータを通じてリクエストごとに制御できます。 - スペキュレーティブデコーディング: 低遅延な推論を実現するための事前学習済み DFlash ドラフトモデルが利用可能です。
- 量子化バリアント: FP8、NVFP4、INT4、GGUF に対応しています。
- OpenMDW-1.1 ライセンス: 商用・非商用を問わず、モデルおよび関連資料の自由な利用と改変が可能です(OpenMDW の詳細はこちら)。
モデル概要
- パラメータ数:総数1,180億、1トークンあたり約80億が活性化
- レイヤー数:48層(グローバルアテンション12層、スライディングウィンドウアテンション36層)
- エキスパート:ルーティング型で256個(トップ10選択)、さらに共有エキスパートを1つ追加
- アテンション機構:グループ化クエリ方式。KVヘッドは8個、各ヘッドの次元数は128。出力ゲートには各ヘッドごとにソフトプラス関数を適用
- スライディングウィンドウサイズ:512トークン
- コンテキストウィンドウ:1,048,576トークン
- 語彙数:100,352トークン(Lagunaファミリー用トークナイザー)
- モダリティ:テキスト入力からテキスト出力
- リーゾニング機能:思考プロセスをインターリーブしながら、思考内容を保持する仕組みを採用
ベンチマーク結果
| モデル | サイズ | Terminal-Bench 2.1 | SWE-bench Multilingual | SWE-Bench Pro (公開データセット) | DeepSWE | SWE Atlas (コードベース Q&A) | Toolathlon Verified |
|---|---|---|---|---|---|---|---|
| Laguna S 2.1 | 118B-A8B | 70.2% | 78.5% | 59.4% | 40.4% | 46.2% | 49.7% |
| Tencent Hy3 | 295B-A21B | 71.7% | 75.8% | 57.9% | - | - | - |
| Inkling | 975B-A41B | 63.8% | - | 54.3% | - | - | 45.5%* |
| Nemotron 3 Ultra | 550B-A55B | 56.4% | 67.7% | - | - | - | 34.3%* |
| DeepSeek-V4-Pro Max | 1.6T-A49B | 64.0%* | 76.2% | 55.4% | 9.0%* | 27.2%* | 55.9%* |
| Kimi K3 | 2800B-A50B | 88.3% | - | - | 69% | - | - |
| Qwen 3.7 Max | - | 74.5%* | 78.3% | 60.6% | - | - | - |
| Muse Spark 1.1 | - | 80% | - | 61.5% | 53.3% | 42.2%* | 75.6% |
| Claude Fable 5 | - | 88% | - | 80.3% | 70% | - | - |
2026 年 7 月 21 日時点のベンチマーク結果
Laguna S 2.1 のスコアは太字で表示しています。ダッシュ(-)は、そのモデルが評価対象とならなかった項目を示します。アスタリスク(*)付きのスコアは、第三者による報告値です。具体的には、「Terminal-Bench 2.1」と「DeepSWE」は Artificial Analysis 経由、「SWE Atlas」は Scale AI の公式リーダーボード、「Toolathlon Verified」は同社の公式リーダーボードから引用したものです。
詳細な評価プロセス(トラジェクトリー)については、trajectories.poolside.ai をご確認ください。
使用方法
Laguna S 2.1 は、Laguna XS 2.1 と同じ「laguna」アーキテクチャを採用しているため、利用可能なエンジン統合も共通しています(vLLM、SGLang、Transformers、TRT-LLM、llama.cpp)。パラメータ数は 1180 億で、BF16 チェックポイントを使用する場合は複数の GPU が必要となります(重みのサイズは約 236GB)。ただし、量子化されたバリエーションであれば、必要なリソースを大幅に削減できます。
vLLM
vllm serve \
--model poolside/Laguna-S-2.1 \
--tensor-parallel-size 4 \
--tool-call-parser poolside_v1 \
--reasoning-parser poolside_v1 \
--enable-auto-tool-choice \
--served-model-name laguna \
--default-chat-template-kwargs '{"enable_thinking": true}'オプション:DFlash による推測デコーディング
Laguna S 2.1 DFlash ドラフトモデル と組み合わせることで、以下の設定を追加して利用可能です。
--speculative-config '{"model":"poolside/Laguna-S-2.1-DFlash","num_speculative_tokens":7,"method":"dflash"}'
SGLang
python -m sglang.launch_server \
--model-path poolside/Laguna-S-2.1 \
--tp-size 4 \
--reasoning-parser poolside_v1 \
--tool-call-parser poolside_v1 \
--trust-remote-codeTRT-LLM
trtllm-serve poolside/Laguna-S-2.1 --trust-remote-code \
--tool_parser poolside_v1 --reasoning_parser laguna
このコマンドのフラグ名は vLLM と異なります。ツールパーサーには --tool_parser を、推論パーサーには laguna(poolside_v1 ではありません)を指定してください。
llama.cpp
GGUF 形式へのコンバージョンは poolside/Laguna-S-2.1-GGUF で利用可能です。Poolside が開発した llama.cpp のフォーク、laguna ブランチを使用すれば、DFlash による推論加速を含む Laguna の完全なサポートを利用できます。(なお、ベースとなる Laguna サポートは、upstream の ggml-org/llama.cpp#25165 でもレビュー中です。)
ビルドと実行手順は以下の通りです。
git clone --branch laguna https://github.com/poolsideai/llama.cpp
cd llama.cpp && cmake -B build && cmake --build build -j
./build/bin/llama-server -m laguna-s-2.1-Q4_K_M.gguf --jinja --port 8000DFlash による推論加速を有効にする場合は、以下のように指定します。
# DFlash speculative decoding を使用する場合:
./build/bin/llama-server -m laguna-s-2.1-Q4_K_M.gguf \
-md laguna-s-2.1-DFlash-BF16.gguf \
--spec-type draft-dflash --spec-draft-n-max 15 -fa on --jinja --port 8000推論の制御
Laguna S 2.1 はネイティブで推論機能をサポートしており、*思考プロセスの保持*(preserved thinking)を行うことで最も高い性能を発揮します。これは、過去のアシスタントメッセージに含まれる reasoning_content を会話履歴に維持することを意味します。
モデルは通常、ツール呼び出しの前やツール呼び出しの間に行う推論を行い、もし以前の思考ブロックが削除された場合、その後のステップで推論を停止することがあります。
推論の制御は、チャットテンプレートを通じてリクエストごとに個別に行われます。
chat_template_kwargs に enable_thinking を false に設定する場合は、以下のように記述します。
extra_body = {"chat_template_kwargs": {"enable_thinking": False}}
あるいはサーバーレベルで --default-chat-template-kwargs ' {"enable_thinking": true}' を指定することも可能です。エージェントによるコーディング利用においては、思考機能を有効化し、推論プロセスをメッセージ履歴に保持することを推奨します。
ライセンス
本モデルは OpenMDW-1.1 ライセンス の下で提供されています。
意図された利用と責任ある使用
Laguna S 2.1 はソフトウェアエンジニアリングおよびエージェントによるコーディング用途を想定して設計されています。ご自身の利用目的に本モデルが適しているか、必ずご自身でご確認いただく必要があります。本モデルは OpenMDW-1.1 ライセンス に従うものであり、Poolside の利用許諾ポリシー と整合した形で使用してください。本モデルの安全対策を回避する行為は推奨されません。ただし、ご自身の用途に即した同等以上の緩和策を実装している場合は例外となります。
セキュリティ上の脆弱性や安全性に関する懸念がある場合は、security@poolside.ai までご連絡ください。
原文を表示
Laguna S 2.1 is a 118B total parameter Mixture-of-Experts model with 8B activated
parameters per token, designed for agentic coding and long-horizon work. It sits
between Laguna XS 2.1 (33B-A3B) and
Laguna M.1 (225B-A23B) in the Laguna series and shares the family recipe: a
token-choice router with softplus gating over 256 routed experts plus one shared
expert, grouped-query attention, and interleaved full/sliding-window attention.
Highlights
- Mixed SWA and global attention layout: 48 layers in a 1:3 global-to-SWA ratio
(12 global attention layers, 36 sliding-window layers, window 512), with softplus
attention gating and per-layer-type rotary scales
- 1M context: 1,048,576-token context window
- Native reasoning support: interleaved thinking between tool calls, with
per-request control via enable_thinking
- Speculative decoding: a trained
DFlash draft model is available
for lower-latency serving
- Quantized variants:
FP8,
NVFP4,
INT4 and
GGUF
- OpenMDW-1.1 license: Use and modify the model and associated materials freely
for commercial and non-commercial purposes
(learn more about OpenMDW)
Model overview
- Number of parameters: 118B total, ~8B activated per token
- Layers: 48 (12 global attention, 36 sliding-window attention)
- Experts: 256 routed (top-10) plus 1 shared expert
- Attention: grouped-query, 8 KV heads, head dim 128; per-head softplus output gating
- Sliding window: 512 tokens
- Context window: 1,048,576 tokens
- Vocabulary: 100,352 tokens (Laguna family tokenizer)
- Modality: text-to-text
- Reasoning: interleaved thinking with preserved thinking
Benchmark results
Model
Size
Terminal-Bench 2.1
SWE-bench Multilingual
SWE-Bench Pro (Public Dataset)
DeepSWE
SWE Atlas (Codebase QnA)
Toolathlon Verified
Laguna S 2.1
118B-A8B
70.2%
78.5%
59.4%
40.4%
46.2%
49.7%
Tencent Hy3
295B-A21B
71.7%
75.8%
57.9%
-
-
-
Inkling
975B-A41B
63.8%
-
54.3%
-
-
45.5%*
Nemotron 3 Ultra
550B-A55B
56.4%
67.7%
-
-
-
34.3%*
DeepSeek-V4-Pro Max
1.6T-A49B
64.0%*
76.2%
55.4%
9.0%*
27.2%*
55.9%*
Kimi K3
2800B-A50B
88.3%
-
-
69%
-
-
Qwen 3.7 Max
-
74.5%*
78.3%
60.6%
-
-
-
Muse Spark 1.1
-
80%
-
61.5%
53.3%
42.2%*
75.6%
Claude Fable 5
-
88%
-
80.3%
70%
-
-
Benchmarks as of 21 July 2026. Laguna S 2.1 in bold; a dash (-) marks a benchmark a model was not evaluated on. Scores marked * are as reported by third parties: Terminal-Bench 2.1 and DeepSWE via Artificial Analysis, SWE Atlas via Scale AI's official leaderboard, and Toolathlon Verified via its official leaderboard. Full evaluation trajectories: trajectories.poolside.ai.
Usage
Laguna S 2.1 uses the same laguna architecture as Laguna XS 2.1, so the same
engine integrations apply (vLLM, SGLang, Transformers, TRT-LLM, llama.cpp). At 118B
parameters the BF16 checkpoint needs multiple GPUs (roughly 236GB of weights);
quantized variants reduce this substantially.
vLLM
vllm serve \
--model poolside/Laguna-S-2.1 \
--tensor-parallel-size 4 \
--tool-call-parser poolside_v1 \
--reasoning-parser poolside_v1 \
--enable-auto-tool-choice \
--served-model-name laguna \
--default-chat-template-kwargs '{"enable_thinking": true}'
Optional: speculative decoding with DFlash. Pair with the
Laguna S 2.1 DFlash draft model
by adding
--speculative-config '{"model":"poolside/Laguna-S-2.1-DFlash","num_speculative_tokens":7,"method":"dflash"}'.
SGLang
python -m sglang.launch_server \
--model-path poolside/Laguna-S-2.1 \
--tp-size 4 \
--reasoning-parser poolside_v1 \
--tool-call-parser poolside_v1 \
--trust-remote-code
TRT-LLM
trtllm-serve poolside/Laguna-S-2.1 --trust-remote-code \
--tool_parser poolside_v1 --reasoning_parser laguna
Note the flag names differ from vLLM's (--tool_parser, and the reasoning parser
is laguna, not poolside_v1).
llama.cpp
GGUF conversions are available at
Serve with poolside's llama.cpp fork, branch
laguna, which carries
full Laguna support including DFlash speculative decoding. (Base Laguna support
is also in upstream review:
git clone --branch laguna https://github.com/poolsideai/llama.cpp
cd llama.cpp && cmake -B build && cmake --build build -j
./build/bin/llama-server -m laguna-s-2.1-Q4_K_M.gguf --jinja --port 8000
# with DFlash speculative decoding:
./build/bin/llama-server -m laguna-s-2.1-Q4_K_M.gguf \
-md laguna-s-2.1-DFlash-BF16.gguf \
--spec-type draft-dflash --spec-draft-n-max 15 -fa on --jinja --port 8000
Controlling reasoning
Laguna S 2.1 has native reasoning support and works best with *preserved thinking*:
keep reasoning_content from prior assistant messages in the message history.
The model will generally reason before calling tools and between tool calls, and
may stop reasoning in follow-up steps if prior thinking blocks are dropped.
Thinking is controlled per request via the chat template:
extra_body={"chat_template_kwargs": {"enable_thinking": False}}
or at the server level with
--default-chat-template-kwargs '{"enable_thinking": true}'. For agentic coding
use cases we recommend enabling thinking and preserving reasoning in the message
history.
License
This model is licensed under the OpenMDW-1.1 License.
Intended and Responsible Use
Laguna S 2.1 is designed for software engineering and agentic coding use cases, and you are responsible for confirming that it is appropriate for your intended application. Laguna S 2.1 is subject to the OpenMDW-1.1 License, and should be used consistently with Poolside's Acceptable Use Policy. We advise against circumventing Laguna S 2.1 safety guardrails without implementing substantially equivalent mitigations appropriate for your use case.
Please report security vulnerabilities or safety concerns to security@poolside.ai.
関連記事
今日のまとめ
AI日報で今日の重要ニュースをまとめ読み