Vercel AI Gateway、ストリーミング文字起こし対応へ

AI Gateway にストリーミング文字起こし機能が追加されました。

従来、文字起こしには完全な音声ファイルが必要で、結果は一度に返されていました。しかし今では、録音されたままの音声をストリーム送信し、モデルが生成するたびに文字起こしの更新を受け取ることができます。これによりライブ字幕や音声入力などの用途で遅延を低く抑えることが可能になりました。

ストリーミング文字起こしはベータ版として提供されており、AI SDK の streamTranscribe 関数を通じて、ストリーミング対応の文字起こしモデルであれば利用可能です。

以下の例では、生の PCM オーディオを openai/gpt-realtime-whisper にストリーム送信し、到着するたびに文字起こしの差分（デルタ）を出力しています。結果ストリームには部分的な文字起こしと最終的な文字起こしの両方が含まれます。

同じコードはプロバイダー間で共通して動作します。モデル名を xai/grok-stt や他のストリーミング対応の文字起こしモデルに変更するだけで利用可能です。

ストリーミング文字起こしを使えば、エージェントに音声モードを追加するのも容易です。ユーザーの発話を文字起こしモデルにストリーム送信し、そのリアルタイムテキストをエージェントに渡すだけです。エージェント自体の変更は不要で、依然としてテキストを受け取る仕組みなので、あらゆるテキストベースのエージェントと連携できます。音声で応答するエージェントの場合は、音声生成機能と組み合わせるか、リアルタイム音声を用いて双方向の会話を実現することも可能です。

AI Gateway におけるストリーミング文字起こしに関する詳細は、ドキュメントをご覧ください。

さらに詳しく読む