OpenAIのStructured OutputsをStreaming実行時にJSONを継続的にパースする方法
本文の状態
日本語全文を表示中
詳細モードで約1分の本文を読めます。
OpenAIが、Structured OutputsをStreaming実行する際にLLMが生成する不正形式のJSON文字列を修正・パースし続ける対応方法を解説している。
Source Article
元記事を日本語で読む
本文に関係しない購読案内、埋め込み通知、サイト内プロモーションは除いています。
OpenAIのStructured OutputsはStreamingで実行できます。
しかし、Streamingの途中では、LLMが生成したテキストは{" や {"name のように、JSONとして不正な形式となる場合があります。
このような不完全な文字列をJSONとして扱えるよう修正し、パースを続行する方法を説明します。
※ 本記事はOpenAIのStructured Outputsを使用する場合を対象としています。他のプロバイダーのモデルや、Structured Outputs以外の構造化出力方法を用いる場合は、本記事の内容と異なる対応が必要となる可能性があります。
client.chat.completions.s…
原文を表示
OpenAIのStructured OutputsはStreamingで実行できます。 しかし、Streamingの途中では、LLMの生成したテキストは{"や{"nameなど、JSONとして不正な形式となります。 このような文字列をJSONとして扱えるように修正してパースし続けたい場合の対応方法をまとめます。 ※この記事は、OpenAIのStructured Outputsを使う場合のみが対象です。他のプロバイダのモデルやStructured Outputs以外の構造化出力方法を使う場合は、この記事の内容とは異なる対応が必要な場合があります。 client.chat.completions.s…
同じ出来事を2媒体で確認
同じ出来事を扱う別媒体の記事です。見出しと公開時刻を比較できます。
今日のまとめ
AIデイリーブリーフで今日の重要ニュースをまとめ読み