Thinking Machines の軽量モデル「Inkling Small」が AI Gateway に追加

記事の3ポイント

1. 1

   高性能と低コストの両立

   Inkling Small は大型モデルに匹敵する性能を、サイズが約4分の1で提供し、タスクあたりの計算リソース使用量を大幅に削減している。

2. 2

   マルチモーダル推論能力

   音声と画像に対するネイティブな推論機能を備え、プログラムによる画像の切り取りや拡大、詳細検査を可能にしてドキュメント分析を支援する。

3. 3

   柔軟な推論制御機能

   ユーザーは最小から最大までの推論努力レベルを選択でき、品質とコスト・遅延時間のトレードオフを自在に調整できる。