Hugging Face、知識と推論を分離した基盤モデル「Intern-S2-Mobius」を発表

記事の3ポイント

1. 1

   知識と推論の分離アーキテクチャの実装

   Mobius-v0 は、知識ベクトルを格納するグローバル共有メモリ（FFN）と、構成的推論を反復的に達成する複数の推論器（Self-Attn）から構成される。

2. 2

   学習効率の劇的な向上

   同社によると、7B モデルはベースラインの 62.6% のデータ量で訓練されながら、同等のダウンストリームスコアを達成したとされる。

3. 3

   推論速度の大幅な加速

   Qwen3.5-35B から継続事前学習された Intern-S2-Mobius は、エンドツーエンドの推論速度で約4倍の高速化を実現したと発表した。