動画記事 · AI Engineer
長期実行型研究エージェントのメモリ活用法 — ステファニア・ドゥルガ氏(サカナ・エーアイ)
動画の文字起こしと公開情報をもとにAIで要約・構成しています。 正確な発言は元動画と時間位置で確認してください。
まず要点
長期実行型エージェントにおけるコンテキストロテーション問題に対し、ランク付けされた意思決定台帳を用いたメモリハルネスの効果をローカルモデルで検証した研究発表。
コンテキストの限界を超えろ:長期タスク型エージェントのための「メモリ制御ループ」設計法
サカナ・エーアイの研究科学者、ステファニア・ドゥルガ氏は、LLM のコンテキストウィンドウが物理的に限界を迎える中、長期間実行される研究エージェントが直面する「記憶の劣化(コンテキストロテーション)」問題を解決するための新たなアプローチを提示しました。単なるデータ保存庫としてではなく、情報を「記述・管理・読出」する動的な制御ループとしてメモリを設計し、ローカル環境での実験によりその有効性を実証したのです。
迫りくる「コンテキストロテーション」とローカルモデルの台頭
現在、AI エージェントが扱うタスクは長期化・複雑化する一方で、新しい大規模モデルのリリース頻度は減少しています。この二つのトレンドが重なることで、モデル内部で記憶が劣化し、矛盾した回答をしたり、過去の作業を忘れたりする「コンテキストロテーション」が深刻な課題となっています。
「モデルが自分自身と矛盾し始めたり、一度やった仕事をやり直したり、質問の内容を忘れて方向を見失ったりする。これが今、最も重要な課題だ」
ドゥルガ氏は、この問題に対処するためにクラウド依存を減らし、ローカル環境で実行可能なアーキテクチャの重要性を説きます。Coinbase がAIコストを削減しながら利用を増やした事例のように、適切なルーティングやコンテキスト管理、そしてローカルモデルの活用が鍵となります。特に、M3 Ultra 上で動作する Qwen 27B や Deep Seek V4 Flash といったローカルモデルは、リソース制約はあるものの、自律的なエージェントタスクやツール利用においてすでに実用レベルに達しつつあります。
メモリを「静的な保存庫」から「動的制御ループ」へ再定義する
ドゥルガ氏が提案するのは、メモリを単なるデータベースとして扱うのではなく、「記述・管理・読出(Write-Manage-Read)」のサイクルを持つ制御ループとして捉えるというパラダイムシフトです。この設計思想に基づき、彼女は以下の要素からなるハネス(枠組み)を構築しました。
- コア(Core):エージェントに常に提示されるトレース情報。
- リコールブロック(Recall Block):異なる検索モードを試す実験の場。
- アーカイブブロック(Archival Block):セッションを超えて情報を保持する記録庫。
この枠組みの中で、ドゥルガ氏は「リコールポリシー」を第一級の評価指標として位置づけました。単にメモリを使うか使わないかを判断するだけでなく、「どのような記憶を保存し」「どのように優先順位付けし」「どの検索関数を用いるか」という設計そのものが成否を分けます。
実験で判明した「ランク付け台帳」の圧倒的優位性
ドゥルガ氏は、ローカル環境(Mac M3 Ultra)で Qwen 27B と Deep Seek V4 Flash を用いて、X-Bench や Spider V2 といったベンチマークを用いた長期タスク実験を行いました。その結果、単純なベクトル検索(RAG)や、正解情報を教える「オラクル」方式よりも、意思決定を優先度順に記録する「ランク付けされた台帳(Ranked Ledger)」が最も高い性能を発揮しました。
「良いメモリはコストを削減し、悪いメモリはトークン消費を増やし、エージェントを誤った方向へ導く。構造的なリコールポリシーこそが、予算と精度を守る鍵となる」
実験では、タスクの文脈がコンテキストウィンドウに収まる場合はメモリの効果は薄かったものの、ステップ 500 で質問された際に正解がステップ 124 にあるような長期タスクにおいては、ランク付け台帳が明確な優位性を示しました。特に興味深いのは、「オラクル(正解情報を与えた状態)」でもモデルが誤った判断を下すケースがあったという点です。
これは、単に正しい情報を渡せばよいわけではなく、「メモリを取得する仕組みそのものの設計」が重要であることを意味します。正解を知っていても、優先度付けのポリシーや検索メカニズムが適切でなければ、モデルはそれを活用できないのです。
主権 AI の実現に向けたローカル環境での検証
この研究は、クラウドへの依存を減らし、データの所有権とプライバシーを守る「主権 AI(Sovereign AI)」の実現に向けた重要な指針となります。ドゥルガ氏は、ローカル環境で実験を行うことでデータや計算プロセスの全工程を制御でき、真に信頼性の高い評価が可能だと強調します。
もちろん、ローカルモデルにはバッチ処理ができないなどの制約もあり、長時間の検証には時間がかかるというコストも伴います。しかし、その分、メモリ管理戦略の根本的な見直しと、エッジデバイスやローカル環境での長期自律型エージェント開発への道筋が明確になったと言えます。
「メモリ取得のメカニズムや優先度付けポリシーの設計こそが、成否を分ける。これは単なる技術的な最適化ではなく、主権 AI の実現に向けた基盤となる」
サカナ・エーアイは現在、この分野で活躍する人材を募っています。コンテキストの限界を超えるエージェント開発に興味がある方は、ローカル環境での検証から始めることで、未来の AI アーキテクチャを自ら設計できる可能性があります。
Original Source
元動画で発言を確認
プレイヤーは必要になるまで読み込みません。YouTubeのCookieと通信も再生を選ぶまで開始しません。
時間位置から根拠を確認
章や引用を選ぶと、元動画をその位置から再生します。