llm-chat-completions-server 0.1a0 を公開
本文の状態
日本語全文を表示中
詳細モードで約1分の本文を読めます。
同じ出来事の情報源
この情報源を基点に整理
Simon Willison Blog
Simon Willison が LLM ツールに OpenAI Chat Completions API に準拠したサーバー機能を追加し、ローカル環境での多言語モデル連携を容易にした。
AI深層分析を開く2026年7月31日 22:14
AI深層分析
キーポイント
OpenAI 互換サーバーの実装
Simon Willison が「llm-chat-completions-server」プラグインを開発し、任意の LLM モデルを OpenAI Chat Completions API と互換性のあるエンドポイントとして公開する機能を追加した。
コンテキスト管理の効率化
LLM 0.32rc1 で導入されたコンテンツアドレス型ログ機能により、会話履歴をハッシュで重複排除し、クライアント側での状態追跡を最適化する設計が採用されている。
ローカル開発環境の簡素化
「uv tool install」および「llm chat-completions-server」コマンドを実行するだけで、ポート 9001 で動作するサーバーを起動し、インストール済みプラグイン内の全モデルにアクセス可能になる。
AI による実装支援
このプラグインのコードは「GPT-5.6 Sol」が執筆しており、同 AI が OpenAI Chat Completions API の仕様を正確に理解していることが確認された。
重要な引用
A key goal of the new content-addressable logs in LLM 0.32rc1 was being able to support OpenAI Chat Completion style requests where each incoming message extends the previous conversation
Running this starts a localhost server on port 9001 that exposes your full collection of LLM models (from any plugins you have installed) using a ChatGPT Completions compatible endpoint.
GPT-5.6 Sol wrote the whole thing - it turns out it knows the OpenAI Chat Completions API shape really well.
編集コメントを表示
編集コメント
Simon Willison が開発する LLM ツールのエコシステムが、標準 API への準拠を通じて実用性をさらに高めている。特に GPT-5.6 Sol がコード生成に貢献した点は、AI による AI 開発の成熟を示唆している。
Source Article
元記事を日本語で読む
本文に関係しない購読案内、埋め込み通知、サイト内プロモーションは除いています。
リリース: llm-chat-completions-server 0.1a0
LLM 0.32rc1 で導入された新しいコンテンツアドレス型ログの主要な目的の一つは、OpenAI の Chat Completion スタイルのリクエストに対応できることです。これは、各 incoming メッセージが会話履歴を拡張していく形式（例：以下のようなリクエスト）をサポートするものです。
curl http://localhost:8002/v1/chat/completions \
-H 'Content-Type: application/json' \
-d '{
"model": "qwen3.5-4b",
"messages": [
{"role": "user", "content": "Capital of France?"},
{"role": "assistant", "content": "Paris."},
{"role": "user", "content": "Germany?"}
]
}'
この場合、会話の状態はクライアント側で追跡されるため、リクエストごとにメッセージの長さがどんどん増えていきます。LLM の新しいスキーマ設計では、個々のメッセージ部分をハッシュ化して重複を排除する仕組みを採用しています。
これを検証するために、私は以下のプラグインを作成しました。
uv tool install llm --pre
llm install llm-chat-completions-server
llm chat-completions-server -p 9001
これを実行すると、ポート 9001 でローカルサーバーが起動し、インストール済みのすべてのプラグインから取得した LLM モデルのコレクション全体を、ChatGPT Completions と互換性のあるエンドポイントとして公開します。
このプロジェクト全体は GPT-5.6 Sol が執筆しました 詳細はこちら。OpenAI の Chat Completions API の仕様を非常によく理解していることがわかりました。
原文を表示
Release: llm-chat-completions-server 0.1a0
A key goal of the new content-addressable logs in LLM 0.32rc1 was being able to support OpenAI Chat Completion style requests where each incoming message extends the previous conversation, like this:
curl http://localhost:8002/v1/chat/completions \
-H 'Content-Type: application/json' \
-d '{
"model": "qwen3.5-4b",
"messages": [
{"role": "user", "content": "Capital of France?"},
{"role": "assistant", "content": "Paris."},
{"role": "user", "content": "Germany?"}
]
}'
Here the conversation state is tracked by the client, so each of these requests gets longer and longer. The new schema design in LLM is designed to de-duplicate these using hashes of the individual message parts.
To test that out, I built this plugin:
uv tool install llm --pre
llm install llm-chat-completions-server
llm chat-completions-server -p 9001
Running this starts a localhost server on port 9001 that exposes your full collection of LLM models (from any plugins you have installed) using a ChatGPT Completions compatible endpoint.
GPT-5.6 Sol wrote the whole thing - it turns out it knows the OpenAI Chat Completions API shape really well.
関連記事
今日のまとめ
AIデイリーブリーフで今日の重要ニュースをまとめ読み