LLM 0.32a0 は主要な後方互換性のあるリファクタリング

LLM 0.32a0 をリリースしました。これは、LLM にアクセスするための私の Python ライブラリおよび CLI ツールである [LLM](https://llm.datasette.io/) のアルファ版であり、長期間取り組んできた重要な変更が含まれています。 以前の LLM バージョンは、プロンプトとレスポンスという観点から世界をモデル化していました。テキストプロンプトをモデルに送信し、テキストレスポンスを受け取るという仕組みです。 import llm model = llm.get_model("gpt-5.5") response = model.prompt("Capital of France?") print(response.text()) これは私が 2023 年 4 月にこのライブラリの開発を始めた当時は理にかなっていました。しかし、それ以来多くのことが変わりました！ LLM は [プラグインシステム](https://llm.datasette.io/en/stable/plugins/index.html) を通じて数千もの異なるモデルに対する抽象化を提供しています。テキスト入力に対してテキスト出力が返されるという元の抽象化では、私が必要とするすべての機能を表現できなくなっていました。 時を経て LLM 自体も成長し、[アタッチメント](https://simonwillison.net/2024/Oct/29/llm-multi-modal/) を追加して画像、オーディオ、ビデオの入力を扱えるようになり、次に構造化 JSON の出力のための [スキーマ](https://simonwillison.net/2025/Feb/28/llm-schemas/) が追加され、さらにツール呼び出しを実行するための [ツール](https://simonwillison.net/2025/May/27/llm-tools/) が追加されました。一方、LLM 自体も進化を続け、推論サポートの追加や画像の返却機能など、あらゆる興味深い機能を備えるようになりました。 LLM は、今日の最先端モデルが処理できる多様な入力・出力タイプをより適切に扱うために進化する必要があります。 0.32a0 アルファ版には 2 つの主要な変更があります。1 つ目は、モデルの入力をメッセージのシーケンスとして表現できるようにしたこと、2 つ目は、モデルの応答を異なるタイプのパーツからなるストリームとして構成できるようにしたことです。 ## プロンプトをメッセージのシーケンスとして LLM はテキストを入力として受け付けますが、ChatGPT が双方向の対話型インターフェースの価値を実証して以来、最も一般的なプロンプトの与え方は、その入力を一連の対話ターンとして扱うことです。 最初のターンは以下のようになります。 user: フランスの首都は？ assistant: （その後、モデルが assistant 側の応答を埋めます。） しかし、それ以降の各ターンでは、その時点までの会話をすべて再演する必要があります。まるで台本のようにです。 user: フランスの首都は？ assistant: パリ user: ドイツは？ assistant: 主要ベンダーの JSON API のほとんどがこのパターンに従っています。以下に、他のプロバイダによって広く模倣されている OpenAI チャット完了 API を使用した場合の上記の内容を示します。 curl https://api.openai.com/v1/chat/completions \ -H "Authorization: Bearer $OPENAI_API_KEY" \ -H "Content-Type: application/json" \ -d '{ "model": "gpt-5.5", "messages": [ { "role": "user", "content": "Capital of France?" }, { "role": "assistant", "content": "Paris" }, { "role": "user", "content": "Germany?" } ] }' 0.32 より前のバージョンでは、LLM はこれらを会話としてモデル化していました: model = llm.get_model("gpt-5.5") conversation = model.conversation() r1 = conversation.prompt("Capital of France?") print(r1.text()) # 出力: "Paris" r2 = conversation.prompt("Germany?") print(r2.text()) # 出力: "Berlin" これは、モデルからの会話を最初から構築する場合に機能しましたが、初期段階で既存の会話をフィードする手段は提供していませんでした。これにより、OpenAI チャット完了 API のエミュレーションを構築するようなタスクが、本来あるべきよりもはるかに困難になっていました。 llm CLI ツールでは、SQLite を使用した会話の永続化と拡張のためのカスタムメカニズムでこの問題を回避していましたが、これは LLM API の安定した一部にはなりませんでした。また、ストレージ層として SQLite にコミットすることなく Python ライブラリを使用したいケースは数多く存在します。 新しいアルファ版では、これがサポートされるようになりました: import llm from llm import user, assistant model = llm.get_model("gpt-5.5") response = model.prompt(messages=[ user("Capital of France?"), assistant("Paris"), user("Germany?"), ]) print(response.text()) llm.user() および llm.assistant() 関数は、messages=[] 配列内で使用するように設計された新しいビルダー関数です。 従来の prompt= オプションも引き続き動作しますが、LLM は内部でこれを単一アイテムの messages 配列にアップグレードします。 また、会話構築の代わりに、レスポンスに対して *reply*（返信）することも可能になりました： response2 = response.reply("How about Hungary?") print(response2) # デフォルトの __str__() は .text() を呼び出します ## ストリーミング部分 アルファ版におけるもう一つの主要な新機能は、プロンプトから結果をストリーミングして返すインターフェースに関するものです。 以前、LLM は以下のようにストリーミングをサポートしていました： response = model.prompt("Generate an SVG of a pelican riding a bicycle") for chunk in response: print(chunk, end="") あるいは、この非同期（async）バリアントも利用可能です： import asyncio import llm model = llm.get_async_model("gpt-5.5") response = model.prompt("Generate an SVG of a pelican riding a bicycle") async def run(): async for chunk in response: print(chunk, end="", flush=True) asyncio.run(run()) 今日の多くのモデルは、混合された種類のコンテンツを返します。Claude に対して実行したプロンプトでは、推論出力が返され、次にテキスト、その後ツール呼び出しのための JSON リクエスト、さらに追加のテキストコンテンツが返される可能性があります。 一部のモデルでは、サーバーサイドでツールを実行することも可能です。例えば、OpenAI の [code interpreter tool](https://developers.openai.com/api/docs/guides/tools-code-interpreter?lang=curl) や Anthropic の [web search](https://platform.claude.com/docs/en/agents-and-tools/tool-use/web-search-tool) が該当します。これにより、モデルからの結果にはテキスト、ツール呼び出し、ツールの出力、その他の形式が組み合わさったものが含まれることになります。 マルチモーダル出力モデルも登場し始めており、ストリーミング応答の中に画像や [音声のスニペット](https://developers.openai.com/api/docs/guides/audio#add-audio-to-your-existing-application) を混ぜて返すことが可能になっています。 新しい LLM アルファモデルでは、これらを型付きメッセージパーツのストリームとして扱います。Python API の利用者にとってこれがどのようなものかを示します： import asyncio import llm model = llm.get_model("gpt-5.5") prompt = "invent 3 cool dogs, first talk about your motivations" def describe_dog(name: str, bio: str) -> str: """仮想的な犬の名前と経歴を記録する。""" return f"{name}: {bio}" def sync_example(): response = model.prompt( prompt, tools=[describe_dog], ) for event in response.stream_events(): if event.type == "text": print(event.chunk, end="", flush=True) elif event.type == "tool_call_name": print(f"\nTool call: {event.chunk}(", end="", flush=True) elif event.type == "tool_call_args": print(event.chunk, end="", flush=True) async def async_example(): model = llm.get_async_model("gpt-5.5") response = model.prompt( prompt, tools=[describe_dog], ) async for event in response.astream_events(): if event.type == "text": print(event.chunk, end="", flush=True) elif event.type == "tool_call_name": print(f"\nTool call: {event.chunk}(", end="", flush=True) elif event.type == "tool_call_args": print(event.chunk, end="", flush=True) sync_example() asyncio.run(async_example()) Sample output (from just the first sync example): 私の動機は、それぞれが独自の物語の主人公になり得るような印象を与えるために、3 頭の記憶に残る犬を異なる「クール」なスタイルで創作することです。1 頭は映画のような雰囲気、1 頭は冒険家風、もう 1 頭は魅力的に混沌としたスタイルです。 ツール呼び出し：describe_dog({"name": "Nova Jetpaw", "bio": "小さなアビエーターゴーグルを着用し、月光を浴びたビーチでスプリントするのが好きな、スリムな銀灰色のウィペット。ノヴァは勇敢でエレガントであり、単なる楽しみのためにドローンを追い越すという噂もあります。 ツール呼び出し：describe_dog({"name": "Mochi Thunderbark", "bio": "ドラマチックな黒と金のバンダナを身につけたふさふさのコージ。ロックスターのような自信に満ちています。モーチは短く、大声で、忠実であり、リスだけで構成された近所の「警備パトロール」を率いています。 ツール呼び出し：describe_dog({"name": "Atlas Snowfang", "bio": "氷のような青い目と、トレイル用のスナックがたっぷり入ったバックパックを持つ巨大な白いハスキー。アトラスは冷静で英雄的であり、吹雪や霧、あるいは混乱するキャンプ旅行中であっても、いつも帰る道を知っています。 応答の最後には response.execute_tool_calls() を呼び出して実際にリクエストされた関数を実行するか、response.reply() を送信してこれらのツールを呼び出し、その戻り値をモデルに送り返すことができます： print(response.reply("Tell me about the dogs")) この新しいトークンタイプのストリーミング機構により、CLI ツールは最終応答内のテキストとは異なる色で「思考」テキストを表示できるようになりました。思考テキストは stderr に出力されるため、他のツールにパイプされた結果には影響しません。 この例では、Anthropic のモデルが思考テキストをレスポンスの一部として返すため、Claude Sonnet 4.6（[llm-anthropic](https://github.com/simonw/llm-anthropic) プラグインの更新されたストリーミングイベント版を使用）を利用しています： llm -m claude-sonnet-4.6 'Think about 3 cool dogs then describe them' \ -o thinking_display 1 ![image](https://static.simonwillison.net/static/2026/claude-thinking-llm.gif) 新しい -R/--no-reasoning フラグを使用して、思考トークンの出力を抑制することができます。驚くべきことに、今回のリリースにおける CLI 向けの唯一の変更点がこれでした。 ## レスポンスのシリアライズおよびデシリアライズの仕組み 前述した通り、LLM は現在、会話を SQLite に永続化するためのコードが非常に柔軟性に欠けています。0.32a0 では、Python API ユーザーが独自の代替手段を実装できるようにする新しいメカニズムを追加しました： serializable = response.to_dict() # serializable は JSON 形式の辞書です # どこにでも保存し、その後復元します： response = R

LLM 0.32a0 は主要な後方互換性のあるリファクタリング

背景や根拠まで確認しますか？

調べる

選ぶ

サイト