Thinking Machines が初のオープンモデル「Inkling」発表

記事の3ポイント

1. 1

   オープンウェイトモデルの公開

   Thinking Machines Lab は、外部開発者がダウンロードして直接修正できる「Inkling」という初の自社製 AI モデルをリリースし、OpenAI や Anthropic のクローズドなアプローチとは異なる戦略を示した。

2. 2

   Mixture-of-Experts による効率化

   Inkling は 9750 億パラメータの総容量を持つが、タスクごとに約 410 億のパラメータのみを使用する Mixture-of-Experts 構造を採用し、大規模モデルでありながら実行コストと速度を最適化している。

3. 3

   マルチモーダル訓練とテキスト出力

   同社は同社によると、このモデルはテキスト、画像、音声、動画の 45 トリリオントークンで訓練されており、これら 4 つの領域をネイティブに推論できるが、現時点での出力はコードや構造化データを含むテキストに限られる。