Thinking Machines Lab、276B パラメータの MoE モデル「Inkling-Small」公開

記事の3ポイント

1. 1

   軽量かつ高性能なオープンウェイトモデルの公開

   Thinking Machines Lab は、総パラメータ2760億、アクティブ120億のマルチモーダルMoEモデル「Inkling-Small」をApache 2.0ライセンスでHugging Faceに公開した。

2. 2

   単一GPU環境での実用化可能性

   NVIDIA B300 1枚（W4A4量子化）または H200 2枚（W4A16）で動作可能となり、スタートアップや中堅企業が独自ホストを容易に実現できる。

3. 3

   大規模モデルを上回る推論性能

   コーディングや論理的推論に関するベンチマーク（SWE-bench, Humanity's Last Exam等）において、教師モデルである「Inkling」よりも高いスコアを記録した。