How to Build Memory into AI Agents｜AI エージェントに記憶機能を実装する方法

## エージェントに記憶機能を与える方法 ![image](https://cdn.prod.website-files.com/65c81e88c254bb0f97633a71/6a3c01c9a318cdaf1ffa880c_Youtube-Introduction%20to%20LangChain%20(1).png) エージェントが過去の行動から学習できるように [ループ](https://www.langchain.com/blog/the-art-of-loop-engineering) を構築することで、ユーザーと共に学習する心地よいエージェント体験を作成できます。これは通常**[記憶](https://docs.langchain.com/oss/python/concepts/memory)**と呼ばれます。記憶があるかどうかは、ユーザーが毎回同じ修正を繰り返さなければならないのか、それとも一度指示されたことを正しく実行する方法をエージェントが覚えていられるのかという違いを生む要因となります。 実装はまだ進化途上にありますが、その抽象化はシンプルです。記憶を実装するには、エージェントがミスを犯した箇所や新しい情報を学習できた可能性のある場所を探し出し、その情報を抽出・一般化してデータ構造に格納するプロセスをバックグラウンドで実行する必要があります。そこにはまだ解明すべき詳細な点が多くあります。本稿では、このプロセスの具体的な実装例を追跡します。ここでは以下の技術を使用します: - トレースストアとして LangSmith Observability を使用 - トレースを分析するプロセスとして LangSmith Engine を使用 - メモリストアとして LangSmith Context Hub を使用 ## 記憶とは何か？ 記憶とは、エージェントが実行を跨いで取得可能な永続的な文脈のことです。これには事実、好み、過去の対話、指示、スキル、例、学習されたパターンなどが含まれる可能性があります。 トレース、トランスクリプト、またはログは、何が起こったかを示す有用な証拠となります。しかし、それらが記憶となるのは、関連する教訓がエージェントが後で実行時に検索し、行動を変更するために使用できるコンテキストに変換された時だけです。 何をどこに配置するかを決定するには、記憶を2つのスコープに分けることが役立ちます：短期（または「ワーキング」）メモリと長期メモリです。 [短期メモリ](https://docs.langchain.com/oss/python/concepts/memory#short-term-memory)は、エージェントが目の前のタスクを実行している間に利用可能なコンテキストを指します。これには、現在のスレッド、直近のメッセージ、ツール実行結果、取得されたドキュメント、中間的な推論アーティファクト、および現在のジョブを完了するために必要な一時的なファイルや状態が含まれます。 [長期メモリ](https://docs.langchain.com/oss/python/concepts/memory#long-term-memory)は、現在の実行を超えて永続するコンテキストです。これには、後で利用可能となり、時間の経過とともにエージェントの行動を形成すべき事実、好み、例、ワークフロー、ポリシー、指示、およびスキルが含まれます。 両者の関係は読み書きのサイクルです。実行中、ハネスが関連するコンテキストを利用可能にすると、エージェントは長期記憶から恩恵を受けます。これはプロンプトの組み立て、ストアからの検索、ツールへのアクセス、ファイル、ランタイムの状態、またはその他のコンテキスト読み込みメカニズムを通じて行われる可能性があります。実行が進むにつれて作業メモリは変化します。実行後、トレースは発生したことの証拠を提供します。その証拠の多くは履歴として残すべきですが、一部には有用なシグナルが含まれているかもしれません：エージェントが記憶すべき嗜好、明確化する必要がある指示、ルールとなるべきツール使用パターン、または更新されるべきスキルなどです。 長期記憶を考える際の実用的な方法は、それを意味記憶、エピソード記憶、手続き的記憶に分離して考えることです。これは認知科学から借用された分類法 [arxiv.org/abs/2309.02427] であり、言語エージェントシステムによくマッピングされています。 - 意味記憶とは、エージェントが知っていること：事実、嗜好、一般的な知識です。 - エピソード記憶とは、エージェントが経験したこと：過去の相互作用、例、行動、結果です。 - 手続き的記憶とは、エージェントがどのように振る舞うべきか：指示、ワークフロー、ポリシー、スキル、ツール使用ルールです。 ![image](https://cdn.prod.website-files.com/65c81e88c254bb0f97633a71/6a3bff6ce664140dd9127814_agent_memory_diagram_dark%201.png) エージェントの振る舞いにおける最も目に見える改善の多くは、*手続き的*メモリから生じます。エージェントが繰り返し回答を誤ってフォーマットしたり、ツールの呼び出し順序を間違えたり、不適切なサブエージェントに委任したり、トーンルールを無視したりする場合、その修正は往々にして手続き的なものになります：ルールをより明確にする、エージェントが従う手順を変更する、あるいはそのタスクを担当するより具体的なスキルへと振る舞いを移すことです。 ## 高レベルなメモリプロセス 高レベルで見れば、適切に機能するエージェントのメモリループには3つの部分があります：トレースのキャプチャ、トレースの分析、そしてメモリの更新です。 ## 1. トレースのキャプチャ トレースは証拠層です。十分に計測されたトレースは、タスクを遂行する際にエージェントがたどった経路を記録します：ユーザー入力、モデル呼び出し、ツールの入出力、取得したドキュメント、ルーティング決定、レイテンシ、エラー、そして多くの場合ユーザーフィードバックが含まれます。 これは重要です。なぜなら、従来の決定論的ソフトウェアとは異なり、エージェントの軌跡を検査するまで、その振る舞いがどうだったかを知らないことが多々あるからです。予期せぬ振る舞いは、弱いプロンプト、欠落しているツール、混乱を招くツールのスキーマ、不適切な検索、古くなったコンテキスト、過度に広範な指示、あるいは静かに作業を誤った場所に送ってしまったルーティング決定などが原因である可能性があります。トレースを検査することで、これらの原因を特定することができます。 ## 2. トレースの分析 トレースをキャプチャした後、次のステップは有用なシグナルを見つけることです。一部のシグナルは明示的なフィードバックや評価失敗から得られます。また、一部は反復するパターンから得られます：同じ悪い出力、同じ無効なツール呼び出し、同じルーティングミス、または同じ無視された指示です。 厄介なのは診断の部分です。同じ症状が異なる修正策を指し示すことがあります。エージェントがトーンルールを無視する場合、そのルールは曖昧すぎるか、場所が間違っているか、関連するスキルから欠落しているか、あるいは別の指示と矛盾している可能性があります。 ## 3. メモリの更新 シグナルを理解したら、システムは将来のコンテキストを変更する必要があるかどうかを決定すべきです。これには、指示を明確にするやルーティングルールを変更するなど、問題の修正が含まれる場合がありますが、ユーザーの好み、成功した例、またはエージェントが後で再利用すべきパターンなど、有用な何かを記憶することを含めることもあります。 ![image](https://cdn.prod.website-files.com/65c81e88c254bb0f97633a71/6a3bff8f0e2dccb18f5aae89_agent_feedback_loop_dark%201.png) ## LangSmith でこれを行う方法 LangSmith を使って、このエージェントメモリループ全体を実行できます： - トレースのキャプチャ: LangSmith Observability - トレースの分析: LangSmith Engine - メモリの更新: LangSmith Context Hub LangSmith では、トレーシングがキャプチャステップを提供します。トレーシングプロジェクトは、エージェントがどのような経路をたどったかという豊富な記録を提供し、なぜそのように振る舞ったのかを検査・理解できるようにします。 LangSmith Engine は、これらのトレースを改善のシグナルに変換するバックグラウンドプロセスです。すべての実行を手動で検査する必要はなく、Engine は反復的な問題についてトレースを分析し、考えられる根本原因を診断し、将来の動作を改善するための具体的な変更点を提示します。具体的には、ルールの追加、関連ワークフローに近づけるための指示の移動、新しい例の作成、スキルの更新、またはルーティングポリシーの変更などが含まれます。 Context Hub は、これらの変更が永続的なエージェントコンテキストとなる場所です。エージェントが使用する指示、ツール、スキルをバージョン管理された場所で管理できるため、メモリはアプリケーションコード内に置かれた一時的なプロンプト編集に留まりません。 一度コンテキストが更新されると、将来の実行ではそれが再びエージェントに読み込まれます。これでループが閉じます。つまり、トレースがキャプチャされ、Engine が改善のシグナルを抽出し、Context Hub がメモリを保存し、次の実行は更新されたコンテキストから始まります。 ![image](https://cdn.prod.website-files.com/65c81e88c254bb0f97633a71/6a3bffaf0467102e3650c757_update_memory%20dark%202.png) ## 有用なメモリのための設計原則（経験から） このループを信頼性のあるものにするためのいくつかの原則があります： - メモリ更新にすべきことはすべてではありません。トレースデータの多くは履歴として残すべきです。一部はデータセットの例、評価用テスト、コード変更、またはツールスキーマの修正になるべきです。永続的なコンテキストとなるのはごく一部のサブセットのみであるべきです。 - 将来の実行で実際に更新内容が読み込まれるようにしてください！ランタイムがプロンプト、ツール、スキルをキャッシュしている場合、メモリコミットにはリフレッシュパスが必要です。そうでなければ、システムは正しい更新内容を保存しながらも、古いコンテキストのまま実行し続ける可能性があります。 - 重要な振る舞いは評価（evals）で保護してください。将来の振る舞いを形作るほどに重要であるメモリ更新であれば、その振る舞いが後退したことを検出する方法を持つ価値があるのが通常です。 ## 謝辞 Sydney Runkle と Harrison Chase の、考え抜かれたレビューとフィードバックに感謝します。 ## エージェントが実際に何をしているかを確認する LangSmith は、エージェントエンジニアリングプラットフォームであり、開発者がすべてのエージェントの決定をデバッグし、変更の評価を行い、ワンクリックでデプロイできるよう支援します。

AI エージェントに記憶機能を実装する方法

背景や根拠まで確認しますか？

このニュースを、実務の判断につなげる

関連記事

調べる

選ぶ

サイト