Thinking Machines Lab がオープン重みモデル「Inkling」発表

Inkling：オープンウェightsモデルの紹介

ミラ・ムラティ率いる「Thinking Machines Lab」が、初のオープンウェイトモデルを公開しました。それが「Inkling」です。これは「Mixture-of-Experts（MoE）アーキテクチャを採用したトランスフォーマーモデル」で、総パラメータ数は 9750 億、アクティブに動作するのは 410 億です。テキスト、画像、音声、動画の 45 トリリオントークンを学習させたマルチモーダルモデルであり、ライセンスは Apache-2.0 です。

また、「Inkling-Small」という 2760 億（アクティブ 120 億）のパラメータを持つ軽量版も予定されていますが、現在はテスト段階にあり、完了次第ウェイトを公開する予定です。

同社のモデルカードは、米国の AI ラボが通常発表するものよりも非常に簡潔です。さらにリンクされているトレーニングデータに関するドキュメントも短く、特筆すべき情報はほとんど記載されていません。要約すれば以下の 2 段落に集約されます。

**

Thinking Machines Lab が AI サービスの開発に使用するデータセットには、パブリックドメインのコンテンツと、知的財産権の対象となる可能性があるコンテンツの両方が含まれています。

同社のサービスは、オープンインターネットおよび公衆がアクセス可能なデータリポジトリから入手した公開情報を基に開発されました。一部のデータセットについては、第三者からも取得しています。

**

Thinking Machines 自身が認める通り、このモデルは最先端（フロンティア）モデルではありません。むしろ、同社のTinker トレーニングプラットフォームを用いてファインチューニングを行うための、強力なベースモデルとして設計されています。

インクリングは、現在利用可能なオープンソース・クローズドソースを問わず、総合性能において最強のモデルではありません。しかし、マルチモーダル機能、効率的な推論能力、そして Tinker 上でのファインチューニング対応という複数の強みを組み合わせることで、カスタマイズに適した優れたオープンウェイトベースモデルとなっています。

今回のリリースには多くの魅力があります。Apache-2.0 ライセンスを採用しており、中国から登場するオープンウェイトモデルと互角の競争力を持っています。NVIDIA の Nemotron や Gemma 4 に加わり、米国のオープンウェイトエコシステムに新たな有力候補が加わったことは喜ばしいことです。

以下は、Thinking Machines API を使用して curl コマンドで生成した、自転車を漕ぐペリカンの SVG イメージです。

curl "https://tinker.thinkingmachines.dev/services/tinker-prod/oai/api/v1/chat/completions" \
  -H "Authorization: Bearer $TINKER_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "thinkingmachines/Inkling",
    "messages": [
      {"role": "user", "content": "Generate an SVG of a pelican riding a bicycle"}
    ],
    "stream": false
  }'

完全なレスポンスは こちら で確認できます。

マルチモーダルモデルであるため、生成された画像（JPEG 形式にレンダリング済み）を自ら記述させるよう指示しました。その際に入力した JSON は以下の通りです。

「Inkling」は、オープンウェightsモデルのシリーズ第3弾です。

以下に、このモデルへの入力例を示します。画像とテキストの組み合わせで、詳細な説明を求めています。

{
  "model": "thinkingmachines/Inkling",
  "messages": [{
    "role": "user",
    "content": [
      {"type": "image_url", "image_url": {"url": "data:image/jpeg;base64,$BASE_64_JPEG"}},
      {"type": "text", "text": "Describe this image in detail"},
    ],
  }],
  "stream": false
}

このモデルの完全な応答は、以下のリンクで確認できます。full response。モデルは画像を「コウノトリかカモメ」と誤認識していました。

その結果、以下のような説明が出力されました。

これは、緑豊かな風景を自転車で走る白い鳥を描いた、明るくフラットなベクトルスタイルのイラストです。

鳥について: 中心となるのは、コウノトリやカモメを思わせるスタイリッシュな白い鳥です。丸みを帯びたふっくらとした体形が特徴です。口元は少し開いており、黒い線で描かれた嘴が目立ちます。小さな黒い瞳には、わずかな白いハイライトが入っています。翼と尾羽は黒く、縁取りが白で表現されています。細いオレンジ色の脚の先にある黒い足が、自転車のオレンジ色のペダルに置かれています。

自転車について: 自転車はシンプルなデザインの黒いフレームです。タイヤは黒く、リムはグレー、スポークは十字状に配置されています。ハンドルも黒で、黒いクランクには鮮やかなオレンジ色のペダルが付いています。鳥の体の後ろには白いシートが見えます。

設定: 背景は晴れた明るい空です。左側にはふんわりとした白い雲が一つ、右側の鳥の頭上付近にも小さな雲があります。右上隅では、鮮やかな黄色の太陽が輝いています。下部には緑色の丘が広がり、その滑らかな曲線を描く頂部に自転車が置かれています。

全体的なスタイルは遊び心があり、シンプルでカラフルです。線は清潔で、明るく晴れた雰囲気が漂っています。

Via Hacker News

Tags: ai, generative-ai, llms, training-data, pelican-riding-a-bicycle, llm-release