Thinking Machines Lab がオープン重みモデル「Inkling」発表

記事の3ポイント

1. 1

   大規模マルチモーダルモデルの公開

   Thinking Machines Lab は、テキスト・画像・音声・動画の45兆トークンで訓練された「Inkling」をオープンウェイトとしてリリースした。

2. 2

   Mixture-of-Experts 構造とライセンス

   同モデルは総パラメータ9750億、アクティブ410億の MoE 構造を採用し、Apache-2.0 ライセンスの下で利用可能である。

3. 3

   ベースモデルとしての位置づけ

   同社は Inkling を最前線のモデルではなく、Tinker プラットフォームを用いたファインチューニングに適した強力なベースモデルとして位置づけている。