埋め込みなしで知識エージェントを構築する

ほとんどの知識エージェントは同じ方法で始まります。ベクトルデータベースを選び、チャンキングパイプラインを構築します。埋め込みモデルを選択し、検索パラメータを調整します。 数週間後、あなたのエージェントが質問に誤って答えたとき、どのチャンクを取得したのか、なぜそのチャンクが最高スコアだったのか、まったく見当がつかないことがあります。 私たちは、社内およびVercel上でエージェントを構築するチームで、このパターンを繰り返し目にしてきました。埋め込みスタックは意味的類似性には有効ですが、構造化データから特定の値を取り出す必要がある場合には不十分です。この失敗は静かに起こります。エージェントは自信を持って間違ったチャンクを返し、質問から回答に至る経路を追跡することができません。 そこで私たちは別の方法を試みました。ベクトルパイプラインをファイルシステムに置き換え、エージェントにbashを利用させたのです。私たちの営業電話要約エージェントは、1通話あたりのコストが約1.00ドルから約0.25ドルに下がり、出力品質も向上しました。エージェントは、既に熟知していることを実行していたのです。つまり、ファイルを読み、grepを実行し、ディレクトリを移動することです。 そこで私たちは、このアーキテクチャの本番環境対応版をVercel上に構築した「Knowledge Agent Template」をオープンソース化しました。 テンプレートの機能 Knowledge Agent Templateは、フォーク、カスタマイズ、デプロイが可能な、オープンソースのファイルシステムベースのエージェントです。GitHubリポジトリ、YouTubeトランスクリプト、カスタムAPIなど、あらゆるソースを接続できます。Webチャットアプリ、GitHubボット、Discordボットとして、あるいはこれら3つすべてを同時に展開できます。 このテンプレートはVercel Sandbox、AI SDK、Chat SDK上に構築されています。ワンクリックでVercelにデプロイし、ソースを設定するだけで、質問への回答を開始できます。 Vercel Sandboxによるファイルベース検索 ベクトルデータベースは不要。チャンキングパイプラインは不要。埋め込みモデルは不要。 あなたのエージェントは、分離されたVercel Sandbox内でgrep、find、catを使用します。 仕組みは以下の通りです： 1. 管理インターフェースを通じてソースを追加すると、それらはPostgresに保存されます 2. コンテンツはVercel Workflowを介してスナップショットリポジトリに同期されます 3. エージェントが検索を必要とするとき、Vercel Sandboxがスナップショットを読み込みます 4. エージェントのbashおよびbash_batchツールがファイルシステムコマンドを実行します 5. エージェントが参照情報をオプションとして添えて回答を返します 結果は決定的で、説明可能で、高速です。エージェントが間違った答えを返したときは、トレースを開いて確認できます。例えば、`grep -r "pricing" docs/`を実行し、`docs/plans/enterprise.md`を読み、間違ったセクションを参照したことが分かります。ファイルを修正するか、エージェントの検索戦略を調整します。デバッグの一連の流れは数分で完了します。 これをベクトル検索と比較してみてください。エージェントが不適切なチャンクを返した場合、どのチャンクを取得したかを特定し、なぜそれが0.82のスコアで、正しいチャンクが0.79だったのかを解明する必要があります。問題はチャンキングの境界、埋め込みモデル、類似性しきい値にある可能性があります。ファイルシステム検索では、なぜそのチャンクが選ばれたかを推測する必要はなく、暗中模索で検索スコアを調整することもありません。あなたがデバッグするのはパイプラインではなく、質問そのものなのです。 埋め込み（embeddings） | ファイルシステム --- | --- ブラックボックスなスコアリング | 透明性のあるコマンド デバッグが困難 | 実際のファイルを調査可能 調整が必要 | すぐに動作する LLMは既にファイルシステムを理解しています。膨大な量のコードでトレーニングされており、ディレクトリの移動、ファイルのgrep、複雑なコードベースにわたる状態管理を行っています。エージェントがコードに対するファイルシステム操作に優れているなら、あらゆるものに対して優れているはずです。これが、ファイルシステムとbashアプローチの背後にある洞察です。 あなたはモデルに新しいスキルを教えているのではありません。モデルが最も得意とするスキルを活用しているのです。維持管理する埋め込みパイプラインも、スケーリングするベクトルDBも必要ありません。ソースを追加し、同期し、検索するだけです。 Chat SDK: 単一のエージェント、あらゆるプラットフォーム あなたのエージェントには、単一の知識ベース、単一のコードベース、単一の信頼できる情報源があります。しかし、エンジニアはSlackに散らばり、コミュニティはDiscordに広がり、バグレポートはGitHubに埋もれているかもしれません。これら3つすべてを理解する単一のエージェントがあれば理想的です。 Chat SDKは、あなたの知識エージェントをユーザーがいるあらゆるプラットフォームに接続します。必要なアダプターをインポートし、それぞれを同じエージェントパイプラインに向けるだけで、あなたのエージェントはChat SDKがサポートするあらゆるプラットフォームで稼働します。 Chat SDK Knowledge Agentの例 各アダプターは、認証、イベント形式、メッセージングなど、プラットフォーム固有の処理を担当します。一方、エージェント自体は変更されません。ボットが言及されると、プラットフォームに関係なく`onNewMention`が発火します。エージェントはメッセージテキストを受け取り、同じファイルシステムを基盤とするパイプラインを通じて応答をストリーミングし、スレッドに返信を投稿します。 このテンプレートには、GitHubとDiscordのアダプターが標準で同梱されています。また、Chat SDKはすでにSlack、Microsoft Teams、Google Chatなどをサポートしています。公式およびコミュニティ製アダプターの完全なリストについては、アダプターディレクトリを参照してください。 AI SDKとの深い統合 `savoir/sdk`パッケージは、あらゆるAI SDK駆動のエージェントやアプリをあなたの知識ベースに接続するツールを提供します。ツールをインポートし、クライアントをあなたのインスタンスURLに向け、そのツールをエージェントに渡して接続を確立します。 SDKの機能を拡張して公開する予定がある場合は、パッケージ名を`@savoir/sdk`から独自の名前に変更してください。 このテンプレートには、スマート複雑度ルーターも含まれています。すべての受信質問は複雑度によって分類され、適切なモデルにルーティングされます。単純な質問は高速で低コストなモデルへ、難しい質問は高性能なモデルへ送られます。手動ルールなしで、コスト最適化が自動的に行われます。 Vercel AI Gatewayを介して、あらゆるAI SDKモデルプロバイダーと互換性があります。 組み込みの管理ツール このテンプレートには、使用統計、エラーログ、ユーザー管理、ソース設定、コンテンツ同期コントロールを含む、完全な管理インターフェースが備わっています。外部の可観測性ツールは必要ありません。 さらに、AI駆動の管理エージェントも内蔵されています。「過去24時間に発生したエラーは何か」や「ユーザーがよく尋ねる質問は何か」といった質問をすることができます。管理エージェントは、内部ツール（`query_stats`、`query_errors`、`run_sql`、`chart`）を使用して直接回答を提供します。エージェントを使ってエージェントをデバッグするのです。 始めましょう 動作する知識エージェントを構築するために、ベクトルデータベース、埋め込みモデル、チャンキングパイプラインは必要ありません。必要なのは、ファイルシステム、bash、そしてあなたのエージェントをユーザーが既にいる場所に配置する方法です。これらが基本要素です。 Knowledge Agent Templateはこれらを組み合わせるので、あなたはエージェントがどのように洞察を得るかではなく、エージェントが何を知っているかに集中できます。

埋め込みなしで知識エージェントを構築する

背景や根拠まで確認しますか？

関連記事

調べる

選ぶ

サイト