5 つのラボ、5 つの知性：小型モデルで多モデル金融ドラマを構築する（6 分読）

[記事一覧に戻る](https://huggingface.co/blog) *第二回 Build Small ハッカソンのフィールドレポート：新興経済の各エージェントが異なるラボの小規模モデルで動作し、プレイヤーが糸を操る資金提供者となる時に何が起きるか。 Thousand Token Wood の最初のバージョンは気象神のサンドボックスでした。1 つの微調整済み 0.5B モデル上で 5 匹の森の生き物が物品を取引し、あなたはショックで世界を刺激してバブルやクラッシュが現れる様子を観察しました。それは素敵な玩具でした。しかし、それはいわば「遊ぶ」ものではなく、「観る」ものでした。 v2 ではそれがあなたが操作するゲームへと再構築されました。あなたは森のパトロン、影の資金提供者です。利息をつけて貸し出しを行い、真実か偽りのどちらか分からないヒントを囁き、市場で空売りし、賄賂を渡し、同盟を仲介します。一方で、知事はあなたが知るべきではない情報を取引したとしてあなたを追跡します。生き物たちはあなたの扱い方を記憶しており、復讐の策略を巡らせます。そして最も大きな変化は裏側で起きています：すべての生き物が今や異なるラボの小規模モデルで思考しています。これがエンジニアリングレポートです。 ## 多様性が製品であり、制約ではない エージェント評議会を実行する明白な方法は、1 つのモデルに複数のプロンプトを適用することです。v2 では 4 つのモデルを実行しています：gpt-oss-20b（OpenAI）、MiniCPM3-4B（OpenBMB）、Nemotron-Mini-4B（NVIDIA）、そして私が独自にファインチューニングした Qwen 0.5B です。目的は新奇性そのもののためではありません。参加者が本質的に異なる場合、市場は興味深いものになります。異なるデータでトレーニングされ、異なるポストトレーニングを経た 4 つの研究所のモデルは、小規模モデルとしてはこれ以上ないほど多様です。フクロウは貯蔵の仕方が異なり、キツネは投機的なアプローチを取ります。評議会は台本ではなく、生きた議論なのです。 1 つのプラットフォーム上で 4 つの異なるモデルを並列稼働させることで浮き彫りになった真の教訓は、摩擦がほぼ完全にサービング層にあり、モデリング層にはないということです。 - 現在の vLLM（0.22.1）では、ロード時にカーネルを JIT コンパイルする必要があり、CUDA ツールキット（nvcc）が存在している必要があります。軽量なベースイメージには nvcc が同梱されていないため、CUDA 開発用イメージを基盤とするまで、4 つのモデルすべてが同じく「nvcc が見つからない」というエラーで失敗しました。これは gpt-oss の特有の挙動ではなく、vLLM のバージョンに共通する問題でした。1 つのイメージ修正ですべての問題が解決しました。 - gpt-oss-20b はネイティブの MXFP4 量子化（MXFP4 quantization）で動作し、24GB の L4 GPU に余裕を持って収まります。高価な GPU は不要です。また、回答を分析プレアンブルで囲むチャネル形式をサポートしているため、コンシューマー側は最終的なチャネルを抽出する必要があります。 - MiniCPM3 では trust_remote_code が必要でしたが、Nemotron はクリーンにロードされました。モデルごとの落とし穴であり、それぞれが 1 行の構成設定で済みます。 4 つの異種モデルを扱いやすくした要因は、v1 で単一モデルを扱いやすくしたのと同じ原初的な仕組み、すなわちすべてのモデル出力が流れる許容性の高い JSON パース・修復レイヤーです。異なるトークナイザーやフォーマット習慣はそれぞれ異なる変形を生み出しますが、パーサーは救済不能な部分を切り捨て、シミュレーションは決してクラッシュしません。このレイヤーを一度構築すれば、新しいモデルの追加はリファクタリングではなく設定エントリの追加で済みます。 ## 情報非対称性にはファイアウォールが必要 v2 の劇的な核心は内部者からのヒントです。あなたは生物に*真実*（デッキが引き出す次の市場熱狂の実際の予測、あなたの真の優位性）か*偽物*（おとり）のどちらかのヒントを囁くことができます。真のヒントに基づいて行動し利益を得ると「ヒート」が上昇します。ある閾値を超えると裁判官が捜査を開始し、罰金、資産凍結、あるいは追放という結末を迎えます。 それが真のゲームとなるためには、助言の真実性が「生き物」から隠されなければなりません。彼らは噂のテキストは目にしますが、フラグ（秘密の合図）を決して見てはいけません。これは UI の小細工ではなくセキュリティ上の要件であり、小型モデルのエージェントにおいては特に鋭い問題となります：モデルが繰り返し返すものはすべて、プロンプトに含めた内容そのものだからです。したがって、隠されたフラグはプロンプトの外（プレイヤーの台帳上）に存在し、構築時に公開イベント記録から削除され、ナレーターが要約するのは公開イベントのみです。単一のテストが、ターンごとにすべての生き物の完全なプロンプトを検査し、禁止トークンが含まれていないか確認します。このテストは、テストスイートの中で最も重要なものです。エージェントに秘密情報を渡す場合、それが漏洩しないことを証明するテストが行われるまで、漏洩すると仮定してください。 ## 制約されたメモリは安価なドラマを生む 生き物は永続的な関係性を保持します：パトロン（支援者）や互いに対する署名付きの感情です。これはイベントによって微調整されます（「あなたの作物を空売りした」「借金を返済した」「敵対者と同盟を結んだ」など）。敵対的になった生き物は融資を拒否し、より不利な条件で取引します；同盟関係にある生き物は互いの価格引き下げを止め、カルテルのように行動します。 罠はプロンプトの膨張です。生きた履歴は無限に成長し、小規模モデルはその中で溺れてしまいます。解決策は、決して履歴をプロンプトに含めないことです：モデルが目にするのは、数行で要約されたバケット化されたサマリー（「Oona に対して温かい感情を抱きつつも、パトロンのことは警戒している」など）だけであり、これは整数ベースのセンチメント分析から導き出され、最も強い数種類の感情に限定されます。注釈は追跡のために保持されますが、範囲を制限し、決して表示されることはありません。この行動バイアスは、一部は創発的（サマリーがモデルを誘導する）であり、一部は機械的（極めて敵対的な生物が決定論的に拒絶する）であるため、単なる希望ではなく、観測可能でテスト可能な事実となります。 ## 実際に何が起こったか 完全な v2 メカニクスを実装した代表者評議会によるシミュレーション： | レバー | 結果 | |---|---| | 評議会のモデル | 4 つのラボ、すべてが 32B の上限内で、Modal で稼働 | | 微調整された 0.5B の信頼性 | 自己売買 0%、有効なオファー 100%（3B の教師モデルを上回る） | | 真実ファイアウォール | どのプロンプトを検査しても、ヒントの隠しフラグが漏洩した事例はゼロ | | インサイダー・ヒントによる優位性 | 真のヒントを事前に配置すれば正の P&L が確定するが、偽のヒントではそうならない | | 調査への熱意 | 2 つのクリーンな疑わしい勝利が裁判官の基準ラインを超える | | 破滅 | マージンコールとローンのデフォルト禁止により生物が追放され、数章後に復帰 | *パトロンの役割、情報戦、人間関係、レバレッジをエンドツーエンドで行使した単一のシードされた実行。 ## 小規模モデルでの構築における教訓 小規模モデルは信頼できるフォーマット生成器ですが、推論能力は不確実です。そのギャップを埋めるには、スケール拡大ではなく、構造化、プロンプト設計、そして小規模なファインチューニングによって達成します。均質な評議会よりも多様な評議会のほうが興味深く、サービング層が堅牢であれば構成コストは一度きりで済みます。エージェントに与えられる機密情報はファイアウォールの問題であり、そのファイアウォールはプロンプト内の指示ではなくデータフロー内に存在し、テストによって証明されるべきものです。また、永続的メモリは、プロンプトが常に有界な要約のみを参照する限りにおいて、エージェントに生きている感覚を持たせる最も安価な手段です。 小規模モデルでも大冒険が可能。評議会全体もトレースもすべてオープンです。

5 つのラボ、5 つの知性：小型モデルで多モデル金融ドラマを構築する（6 分読）

背景や根拠まで確認しますか？

調べる

選ぶ

サイト