Together AI が新モデル「Inkling」を発表

記事の3ポイント

1. 1

   新しいマルチモーダルモデルの登場

   Thinking Machines Lab は、テキスト・画像・音声の入力を受け付けテキストを出力する「Inkling」を発表し、トークン効率の高い推論と広範なタスク対応を実現した。

2. 2

   制御可能な推論努力のサポート

   開発者は各タスクのニーズに応じてモデルが適用する推論の量を調整できる機能を提供し、推論深度、トークン使用量、レイテンシのバランスを最適化できる。

3. 3

   独自のアーキテクチャ革新

   従来のデコーダー型トランスフォーマーを超え、クエリ条件付き相対アテンション、短因果畳み込み、共有エキスパートシンクを備えた混合専門家（MoE）アーキテクチャを採用している。