AI Gateway に Thinking Machines の「Inkling」追加

Think Machines の「Inkling」が、AI Gateway で利用可能になりました。

Inkling は、特定のドメインに特化して最適化するのではなく、エージェントタスク、推論、コーディング、指示の遵守、事実性の検証、ビジョン（画像認識）、音声処理など、多岐にわたる領域で訓練された広範な一般モデルです。また、思考にかかる計算リソースをユーザーが制御できる機能も備えています。

AI SDK で Inkling を利用するには、モデル名を「thinkingmachines/inkling」に設定してください。

AI Gateway は、モデル呼び出しの一元化、使用状況とコストの追跡、およびプロバイダー側よりも高い稼働率を実現するためのリトライ設定、フェイルオーバー、パフォーマンス最適化の設定などを行うための統一 API を提供します。さらに、組み込みのカスタムレポート機能、データ保持ゼロ（Zero Data Retention）への対応、API キーごとの予算管理、ルーティングルールなどの機能も標準で備えています。

AI Gateway では、プロバイダーの価格をそのまま反映し、マージンを上乗せすることなく、推論コストにもプラットフォーム利用料を徴収しません。これは、Bring Your Own Key（BYOK）リクエストの場合も含めて適用されます。

モデルプレイグラウンドで Inkling を試すことができます。

詳しくは続きを読む