LLM エージェントのメモリ操作にゼロトークン手法を提案
本文の状態
日本語全文を表示中
詳細モードで約3分の本文を読めます。
同じ出来事の情報源
この情報源を基点に整理
TLDR AI
研究者らが提案するゼロメモリは、LLM エージェントの長期記憶操作において生成プロセスを排除し、エンコーダー計算のみで構造化された追跡情報を管理することで、メモリ操作にかかる時間を大幅に削減する手法である。
Continue in AI NEW LAB
このニュースを、実務の判断につなげる
AI NEW LABで、試したことや先に確認したい条件を共有できます。まずはログインなしで読めます。
AI NEW LABで論点を見るAI深層分析を開く2026年8月7日 22:39
AI深層分析
キーポイント
ゼロトークン操作の実現
最終的な質問応答（QA）ステップを除き、LLM の呼び出しやトークンの消費を行わず、エンコーダー計算のみでメモリ操作を完結させる仕組みを採用している。
双方向の構造化アプローチ
インタラクションの追跡情報を「エンティティ・コンテキストグラフ」と「時間階層」の2つの視点から整理し、クエリに応じて両者の重み付けを行い最適な文脈を復元する。
確定的な証拠の整合性
矛盾する証拠を除外する確定的な較正プロセスを経て、最終的な回答が取得された追跡情報に基づいており、情報の信頼性を担保している。
構造化エージェントメモリは中間表現を不要とする
アブレーション研究により、過去の情報を中間表現として生成する必要はないことが示された。
2つの視点とクエリ依存協調の有効性が確認される
提案手法の2つの視点とその協調が結果を裏付けていることが検証されている。
重要な引用
Zero-Mem introduces zero-token memory operations: no step outside final question answering invokes an LLM or consumes LLM input or output tokens
Deterministic calibration first discards conflicting evidence and then keeps the reader's answer grounded in the retrieved traces.
it reduces memory-operation time cost by 57.6% relative to the fastest compared baseline
Ablations support the contribution of the two views and their query-dependent coordination.
編集コメントを表示
編集コメント
LLM エージェントのメモリ管理において、生成コストを完全に排除するアプローチは画期的である。この手法が実環境でどの程度スケーラブルに動作するかは今後の検証課題となるが、長文コンテキスト処理のパラダイムシフトを示唆している。
Source Article
元記事を日本語で読む
本文に関係しない購読案内、埋め込み通知、サイト内プロモーションは除いています。
著者：Yilin Xiao, Zhehan Zhu, Yujing Zhang, Jin Chen, Zijin Hong, Luyao Zhuang, Qinggang Zhang, Shengyuan Chen, Xiaocao Ouyang, Lingfei Ren, Xiao Huang
LLM エージェントは、長い対話を通じて一貫した行動を取るためにメモリを必要としますが、多くのシステムではそのメモリ操作に追加の LLM 呼び出しを行っています。中間記録の生成や検索仲介には、継続的なトークンコストと時間コストがかかるうえ、省略または統合された詳細が元の証拠を見えにくくする恐れがあります。
構造化されたメモリアクセスに生成が必要なのか、私たちは問いかけます。Zero-Mem は「ゼロ・トークン・メモリ操作」を導入しました。これは、最終的な質問応答ステップ以外では LLM を呼び出さず、LLM の入力または出力トークンを消費しないことを意味します（エンコーダーの計算コストは別途算出されます）。Zero-Mem は、元の対話記録をそのまま証拠源として保持します。
このシステムは、記録を 2 つの補完的な方法で整理します。1 つ目は「エンティティ - コンテキスト・グラフ」で、異なる対話間のつながりを可視化します。2 つ目は「時間階層構造」で、会話の局所性とセッション状態を維持します。
各クエリに対して、Zero-Mem はこれら 2 つの視点に重み付けを行い、両方から情報を取得します。そしてその構造に従って、関連する証拠や周辺文脈を復元します。まず確定的な較正によって矛盾する証拠を排除し、その後、回答者が取得した記録に基づいた回答を導き出します。
LLM を呼び出すのは最終的な QA リーダーのみです。長期的なメモリと長いコンテキストを対象とした質問応答ベンチマークにおいて、Zero-Mem は競合するパフォーマンスを実現しつつ、メモリ操作における LLM 呼び出しとトークン消費を完全に排除しました。同じ最終 QA リーダーとコンテキスト予算を用いた場合、最速の比較対象ベースラインに対して、メモリ操作にかかる時間コストを 57.6% 削減しています。
アブレーション実験により、2 つの視点とそのクエリ依存型の調整が寄与していることが裏付けられました。全体的な結果から、構造化されたエージェントメモリは過去の中間表現を生成する必要はないことが示されています。査読完了後、コードと実装の詳細は こちら (https://github.com/TheMoon0815/Zero-mem) で公開されます。
| 対象： | 計算と言語 (cs.CL) |
|---|---|
| 引用形式： | arXiv:2607.29377 [cs.CL] |
| (またはこのバージョンは arXiv:2607.29377v1 [cs.CL]) | |
| https://doi.org/10.48550/arXiv.2607.29377 arXiv-issued DOI via DataCite |
提出履歴
送信者：Yilin Xiao [メールを表示] [v1]
2026年7月31日（金）13:01:06 UTC (414 KB)
原文を表示
Authors:Yilin Xiao, Zhehan Zhu, Yujing Zhang, Jin Chen, Zijin Hong, Luyao Zhuang, Qinggang Zhang, Shengyuan Chen, Xiaocao Ouyang, Lingfei Ren, Xiao Huang
Abstract:LLM agents need memory to act consistently over long interactions, yet many systems use additional LLM calls to operate that memory. Generating intermediate records and mediating their retrieval adds recurring token and time costs, while omitted or merged details can obscure the original evidence. We ask whether structured memory access requires generation at all. Zero-Mem introduces \emph{zero-token memory operations}: no step outside final question answering invokes an LLM or consumes LLM input or output tokens; encoder computation is accounted for separately. Zero-Mem preserves original interaction traces as its source of record. It organizes the traces in two complementary ways. An entity--context graph exposes connections across interactions, while a temporal hierarchy preserves conversational locality and session state. For each query, Zero-Mem weighs the two views, retrieves from both, and follows their structure to recover supporting relations or surrounding context. Deterministic calibration first discards conflicting evidence and then keeps the reader's answer grounded in the retrieved traces. Only the final-QA reader invokes an LLM. Across long-memory and long-context question-answering benchmarks, Zero-Mem achieves competitive performance while eliminating LLM calls and LLM-token consumption from memory operations. With the same final-QA reader and context budget, it reduces memory-operation time cost by 57.6\% relative to the fastest compared baseline. Ablations support the contribution of the two views and their query-dependent coordination. Overall, the results show that structured agent memory need not generate an intermediate representation of the past. After peer review, the code and implementation details will be available at \textcolor{blue}{this https URL}.
| Subjects: | Computation and Language (cs.CL) |
|---|---|
| Cite as: | arXiv:2607.29377 [cs.CL] |
| (or arXiv:2607.29377v1 [cs.CL] for this version) | |
| https://doi.org/10.48550/arXiv.2607.29377 arXiv-issued DOI via DataCite |
Submission history
From: Yilin Xiao [view email] [v1]
Fri, 31 Jul 2026 13:01:06 UTC (414 KB)
今日のまとめ
AIデイリーブリーフで今日の重要ニュースをまとめ読み