Hugging Face に「Laguna S 2.1」公開

記事の3ポイント

1. 1

   アーキテクチャと性能

   Poolside AI は、118B総パラメータで1トークンあたり8Bが活性化されるMixture-of-Expertsモデルを公開し、256のルーティングエキスパートと共有エキスパートを組み合わせた独自の構成を採用している。

2. 2

   超長文コンテキスト対応

   本モデルは1,048,576トークンという巨大なコンテキストウィンドウをサポートしており、グローバルアテンションとスライディングウィンドウアテンションを混合したレイアウトで構成されている。

3. 3

   推論機能のネイティブ統合

   ツール呼び出し間の思考プロセスをインターリーブさせるネイティブな推論機能を備え、ユーザーはリクエストごとに「enable_thinking」パラメータを通じて制御可能である。