インクリング：シンキング・マシーン製、Hugging Face に登場

オープンソース界に衝撃：1 兆パラメータ級のマルチモーダル AI「Inkling」が Hugging Face に登場

シンキング・マシーン（Thinking Machines）が開発した新モデル「Inkling」が、Hugging Face Hub で正式公開されました。画像、テキスト、音声を同時に処理できる約 1 兆パラメータ規模のマルチモーダル LLM が Apache 2.0 ライセンスで無償提供されることで、オープンソース界隈における高機能 AI の利用ハードルが劇的に低下します。

単なる「モデル」を超えた「可能性」を象徴する名前

今回の発表は、Hugging Face チームによるインプロンプト（即興）のライブストリームで行われました。発表されたモデル名「Inkling」には、開発者たちの深い意図が込められています。

「Inkling」という名前は、「将来への予感」や「可能性」を意味します。オープンウェイトモデルは API から得られるトークンだけで終わるものではなく、ユーザー自身がカスタマイズすることでさらに大きなポテンシャルを引き出せるものです。その可能性を象徴する名前として選びました。

この名前の通り、Inkling は単なる完成品としてのモデルではなく、開発者や研究者が独自のトレーニング（ポストトレーニング）を通じて能力を拡張できる「土台」として設計されています。

独自アーキテクチャによる推論速度の飛躍的向上

Inkling の最大の特徴は、そのアーキテクチャにあります。従来のデコーダー専用トランスフォーマーとは一線を画し、推論効率を劇的に高めるための独自の技術が採用されています。

RoPE に代わる「相対アテンション」

近年の LLM で事実上の標準となっている RoPE（Rotary Positional Embedding）に代わり、Inkling は相対アテンションを採用しています。これは、直近の 4 つのステップを結合してトークンを作成し、絶対的な位置情報に基づく従来のアテンションとは異なるアプローチを取ります。

SC（スケーラビリティ・コンボリューション）による効率化

もう一つの目玉技術がSC（Scalability Convolution）です。これは各ヘッド内で 4 つのチャネルを混合する畳み込み処理を行い、隠れ状態や値の集約を極めて効率的に行うものです。

「マルチモーダルモデルにおけるモジュールは非常に浅く設計されています。SC によって隠れ状態と値の集約コストが劇的に低下し、効率性が大幅に向上しました。」

これらの技術により、Inkling は推論速度を大幅に改善しています。特にNVFP4 バリアントが提供されており、わずかなメモリ増加で驚異的なスピードアップを実現します。

開発者がすぐに使えるエコシステム

Inkling の公開は、単にモデルファイルが置かれただけでなく、主要なライブラリやツールとの連携がすでに完了している点でも画期的です。

• Transformers & vLLM: 主要な推論フレームワークへのサポートが提供されています。
• Unsloth: Daniel Han氏による Unsloth との協力により、量子化（Quantization）技術を活用したデモや最適化が可能になっています。
• Llama.cpp & SGLang: これらの軽量・高速推論ライブラリとの統合も完了しており、ローカル環境での利用も容易です。

「このモデルは Hugging Face Hub 上の Transformers でも動作する最初の 1 兆パラメータ級のマルチモーダルモデルの一つであり、Apache 2.0 ライセンスで公開されています。」

カスタマイズとファインチューニングの可能性

Inkling は「一般化された」モデルとして設計されており、特定のタスクに特化していません。その分、開発者が自社のデータや用途に合わせてカスタマイズする余地が非常に大きくなっています。

Tinker プラットフォームによるポストトレーニング

シンキング・マシーンの独自プラットフォームTinkerを活用することで、モデルのファインチューニングやポストトレーニングを効率的に行うことができます。また、OpenRLHFを用いた自己蒸留（Self-Distillation）や知識蒸留の実装例も紹介されており、開発者が即座に試せる環境が整っています。

「このモデルはファインチューニングに適したモデルです。私たちは顧客の声を聞きながら、より良いファインチューニング環境を提供するために継続して改善していく予定です。」

モダリティ設計への挑戦

マルチモーダル処理において、従来の「高度なエンコーダー」に依存するアプローチではなく、よりシンプルな「埋め込みルックアップテーブル」や、大規模なデコーダーに集中する設計が採用されています。これは、エンコーダーの複雑さよりも、モデル全体のスケールと相互作用（Interaction）にこそ価値があるという考えに基づいています。

「マルチモーダルのトレンドを分析した結果、高度なエンコーダーが必要ない場合でも十分な性能が出せることを発見しました。私たちはこの設計が最終的な答えだとは考えておらず、今後も継続的に実験と改善を繰り返していく予定です。」

まとめ：次世代 LLM 設計の新たな基準へ

Inkling の公開は、オープンソース界において「高機能なマルチモーダル AI」の利用を民主化する重要な一歩です。独自アーキテクチャによる推論効率化技術と、柔軟なカスタマイズ性を両立させたこのモデルは、次世代の軽量・高性能 LLM 設計における新たな基準となる可能性があります。

開発者は今すぐ Hugging Face Hub から Inkling を入手し、ローカル環境やクラウド上で試すことができます。その「可能性」を最大限に引き出すのは、あなた次第です。