5 つのラボ、5 つの思考：小規模モデルによるマルチモデル金融ドラマの構築

[記事一覧に戻る](https://huggingface.co/blog) *第二回 Build Small ハッカソンのフィールドレポート：新興経済の各エージェントが異なるラボの小規模モデルで動作し、プレイヤーが糸を操る資金提供者となる時に何が起きるか。 Thousand Token Wood の最初のバージョンは気象神のサンドボックスでした。1 つの微調整済み 0.5B モデル上で 5 匹の森の生き物が物品を取引し、あなたは世界にショックを与えてバブルやクラッシュが現れる様子を観察しました。それは素敵な玩具でしたが、遊ぶというよりは観る対象でした。 v2 ではそれをあなたが運営するゲームへと再構築しました。あなたは「森のパトロン」、影の資金提供者です。利息をつけて貸し出しを行い、真実か偽りのどちらか分からない情報を囁き、市場を空売りし、賄賂を渡し、同盟を仲介します。一方、裁判官はあなたが知るべきではない情報を使って取引を行ったとしてあなたを追跡しています。生き物たちはあなたの扱い方を記憶しており、復讐の策略を巡らせます。そして最も大きな変化は裏側で起こっています：すべての生き物が今や異なるラボの小規模モデルで思考するようになりました。これが本技術報告書です。 ## 多様性が製品であり、制約ではない エージェント評議会を実行する明白な方法は、1 つのモデルに複数のプロンプトを適用することです。v2 では 4 つのモデルを実行しています：gpt-oss-20b（OpenAI）、MiniCPM3-4B（OpenBMB）、Nemotron-Mini-4B（NVIDIA）、そして私が独自にファインチューニングした Qwen 0.5B です。目的は新奇性そのもののためではありません。参加者が本質的に異なる場合、市場は興味深いものになります。異なるデータで訓練され、異なるポストトレーニングを経た 4 つの研究所のモデルは、小規模モデルとしてはこれ以上ないほど異なります。フクロウは貯蔵の仕方が異なり、キツネは投機的な行動が異なります。評議会は台本ではなく、生きた議論です。 1 つのプラットフォーム上で 4 つの異なるモデルを並列に実行したことで浮き彫りになった真の教訓は、摩擦はほぼ完全にサービング層（serving layer）にあり、モデリング層にはないということです。 - 現在の vLLM (0.22.1) はロード時にカーネルを JIT コンパイルする必要があり、CUDA ツールキット（nvcc）が利用可能である必要があります。軽量なベースイメージには nvcc が同梱されていないため、CUDA 開発用イメージを基盤とするまで、4 つのモデルすべてが同じく「nvcc が見つからない」というエラーで失敗しました。これは gpt-oss の特有の挙動ではなく、vLLM のバージョンに共通する問題でした。1 つのイメージ修正ですべての問題が解決しました。 - gpt-oss-20b はネイティブの MXFP4 量子化（quantization）で動作し、24GB の L4 GPU に余裕を持って収まります。高価な GPU は不要です。また、回答を分析の前書きで囲むチャネル形式をサポートしているため、消費者側は最終的なチャネル部分を抽出する必要があります。 - MiniCPM3 では trust_remote_code が必要でしたが、Nemotron は問題なくロードされました。モデルごとの落とし穴であり、それぞれが 1 行の構成設定で対応可能です。 4 つの異種モデルを扱いやすくした要因は、v1 で単一モデルを扱いやすくしたのと同じ原初的な仕組み、すなわちすべてのモデル出力が流れる許容性の高い JSON パース・修復レイヤーです。異なるトークナイザーやフォーマット習慣はそれぞれ異なる変形を生み出しますが、パーサーは救済不能な部分を切り捨て、シミュレーションは決してクラッシュしません。このレイヤーを一度構築すれば、新しいモデルを追加するだけで済み、リファクタリングは不要となります。 ## 情報非対称性にはファイアウォールが必要 v2 の劇的な核心は内部者からのヒントです。あなたは生物に*真実*（デッキが引き出す次の市場熱狂の実際の予測であり、あなたの真の優位性）か*偽物*（おとり）のどちらかのヒントを囁くことができます。真のヒントに基づいて行動し利益を得ると、あなたの「ヒート」が上昇します。ある閾値を超えると、裁判官が捜査を開始し、罰金、資産凍結、あるいは追放という結末を迎えます。 それが真のゲームとなるためには、噂の真偽を「生き物」から隠さなければなりません。彼らは噂のテキストは目にしますが、フラグ（秘密の合図）を決して見てはいけません。これは UI の小細工ではなくセキュリティ上の要件であり、小型モデルのエージェントにおいては特に鋭い問題となります：モデルが繰り返し返すものはすべて、プロンプトに含めた内容そのものだからです。したがって、隠されたフラグはプロンプトの外（プレイヤーの台帳上）に存在し、構築時に公開イベント記録から削除され、ナレーターが要約するのは公開イベントのみです。単一のテストで、各ターンごとにすべての生き物の完全なプロンプトをスキャンし、禁止トークンが含まれていないか確認します。このテストは、スイート（一連のテスト）の中で最も重要なものです。エージェントに秘密情報を渡す際は、テストによって漏洩しないことが証明されるまで、必ず漏れると仮定してください。 制約されたメモリは、安価なドラマを生み出します 生き物は永続的な関係性を保持しています：パトロン（支援者）や互いに対する署名付きの感情です。これはイベントによって微調整されます（「あなたの作物を空売りした」「借金を返済した」「敵対者と同盟を結んだ」など）。敵対的になった生き物は融資を拒否し、より不利な条件で取引します；同盟関係にある生き物たちは互いの価格引き下げを止め、カルテルのように振る舞います。 罠はプロンプトの膨張です。生の履歴は無限に成長し、小規模モデルはその中で溺れてしまいます。解決策は、決して履歴をプロンプトに含めないことです：モデルは一行の要約（「Oona に対して温かい感情を抱きつつも、パトロンのことは警戒している」）というバケット化された概要のみを見ます。これは少数の最も強い感情に基づき、整数値のセンチメントから導き出され、上限が設けられています。ノートは追跡のために保持されますが、範囲が限定されており、決して表示されることはありません。この行動バイアスは、一部は創発的（要約がモデルを誘導する）であり、一部は機械的（強い敵対性を持つ生物が決定論的に拒絶する）であるため、単なる希望ではなく、観測可能でテスト可能なものです。 ## 実際に何が起こったか 完全な v2 メカニクスを実装した代表者評議会による実行： レバー 結果 評議会のモデル 4 機関が参加し、すべてが 32B の上限内で、Modal で提供されました。 微調整された 0.5B の信頼性 自己売買 0%、有効なオファー 100%（3B の教師モデルを上回る） 真実のファイアウォール スキャンされたすべてのプロンプトにおいて、ヒントの隠しフラグの漏洩はゼロ インサイダー・ヒントのエッジ 真のヒントによる事前配置は正の損益を確定させますが、偽のヒントはそうしません。 調査への熱意 2 つのクリーンな疑わしい勝利が裁判官の基準を超えました。 破滅 証拠保全（マージンコール）と貸付デフォルト禁止により、ある生物が追放され、数章後に復帰します。 *パトロンの行使、情報戦、人間関係、そしてレバレッジをエンドツーエンドで実行した単一のシードされたランです。* ## 小規模モデルでの構築における教訓 小規模モデルは信頼できるフォーマット生成器ですが、推論においては信頼性が低いです。このギャップを埋めるには、スケーリングではなく、構造化、プロンプト設計、そして小規模なファインチューニングによって達成されます。均質な評議会よりも多様な評議会のほうが興味深く、サービング層が堅牢であれば構成コストは一度きりで済みます。エージェントに与えられる機密情報はファイアウォールの問題であり、そのファイアウォールはプロンプト内の指示ではなく、データフロー内に存在し、テストによって証明されるべきものです。また、永続的メモリは、プロンプトが常に有界な要約のみを参照する限りにおいて、エージェントに生きている感覚を持たせる最も安価な手段です。 小規模モデルでも大冒険が可能。評議会全体もトレースもすべてオープンです。

5 つのラボ、5 つの思考：小規模モデルによるマルチモデル金融ドラマの構築

背景や根拠まで確認しますか？

調べる

選ぶ

サイト