LLM の記憶使用における認知の罠を評価するベンチマーク「MemTrapBench」を発表
本文の状態
日本語全文を表示中
詳細モードで約2分の本文を読めます。
同じ出来事の情報源
この情報源を基点に整理
Hugging Face Daily Papers
既存のメモリベンチマークが捉えきれない、LLM の記憶が推論や信念を歪める「認知トラップ」を検証する新フレームワーク MemTrapBench と、これを緩和する手法 AdaptiveMem が発表される。
AI深層分析を開く2026年8月21日 15:31
AI深層分析
キーポイント
認知トラップの特定と定義
正確に記録・検索された記憶であっても、モデルの推論や信念を歪め、現在のタスク性能を低下させる「Reasoning Fixation」と「Belief Distortion」の 2 つの認知トラップを同定した。
MemTrapBench の導入と評価結果
このトラップを体系的に評価するベンチマーク MemTrapBench を提案し、実験により既存のメモリ戦略は全て「メモリなし」設定よりも下回る性能を示し、最良の方法でも 10% 以上の低下を招くことを示した。
緩和手法 AdaptiveMem の提案
推論時に LLM に認知トラップを回避するよう指示する簡便かつ効果的な手法「AdaptiveMem」を提案し、これにより認知トラップを軽減しつつ標準ベンチマークでの性能も維持・向上させることに成功した。
重要な引用
even faithfully recorded and semantically relevant memories can distort model reasoning or beliefs and degrade current task performance
all evaluated memory strategies underperform the no-memory setting, with even the strongest methods suffering drops of more than 10%
AdaptiveMem mitigates cognitive traps on MemTrapBench while preserving or improving performance on standard memory benchmarks
編集コメントを表示
編集コメント
この研究は、LLM の記憶機能が「正しく保存されているか」だけでなく「それが推論を歪めていないか」という新たな視点を提供する。実運用における信頼性向上のため、メモリ戦略の評価基準を見直す契機となる重要な成果である。
Source Article
元記事を日本語で読む
本文に関係しない購読案内、埋め込み通知、サイト内プロモーションは除いています。
大規模言語モデル(LLM)において、メモリ機能は情報を保持し、長期的な対話から学習する上で重要な要素となっています。しかし、既存のメモリベンチマークは主に情報が正しく抽出・保存・検索されるかを評価するに留まり、検索された記憶がどのようにモデルの推論を再構築し、現在のタスクのパフォーマンスに影響を与えるかについては十分に検討されていません。
私たちは「メモリ誘発型認知トラップ」を特定しました。これは、忠実に記録され意味的に関連性のある記憶であっても、モデルの推論や信念を歪め、現在のタスクのパフォーマンスを低下させる現象です。これらの失敗モードを体系的に評価するために、2 つ種類の認知トラップ(Reasoning Fixation と Belief Distortion)を対象とした「MemTrapBench」を導入しました。
2 つのモデルファミリーと 5 つの代表的なメモリフレームワークで実施した実験では、MemTrapBench の難易度の高さが示されました。評価されたすべてのメモリ戦略が、メモリを使用しない設定よりもパフォーマンスが劣り、最も強力な手法でも 10% 以上の低下を記録しています。
これらの認知トラップを緩和するため、「AdaptiveMem」という推論時に動作するシンプルかつ効果的な手法を提案します。これは LLM に記憶トラップを回避させるよう指示を与えるものです。AdaptiveMem は、多様なメモリフレームワークにおいて標準的なメモリベンチマークでのパフォーマンスを維持または向上させつつ、MemTrapBench 上の認知トラップを効果的に緩和します。
原文を表示
Memory has become a key component of large language models, enabling them to retain information and learn from long-term interactions. However, existing memory benchmarks mainly evaluate whether information is correctly extracted, stored, and retrieved, while largely overlooking how retrieved memories reshape model reasoning and affect performance on the current task. We identify memory-induced cognitive traps: even faithfully recorded and semantically relevant memories can distort model reasoning or beliefs and degrade current task performance. To systematically evaluate these failure modes, we introduce MemTrapBench, which covers two forms of cognitive traps: Reasoning Fixation and Belief Distortion. Experiments across two model families and five representative memory frameworks show that MemTrapBench is challenging: all evaluated memory strategies underperform the no-memory setting, with even the strongest methods suffering drops of more than 10%. To mitigate these cognitive traps, we propose AdaptiveMem, a simple yet effective inference-time method that instructs LLMs to avoid memory traps. AdaptiveMem mitigates cognitive traps on MemTrapBench while preserving or improving performance on standard memory benchmarks across diverse memory frameworks.
関連記事
News to Guide
ニュースの次に確認する
発表内容を、現在の料金や仕様と照らし合わせられる関連ガイドです。
今日のまとめ
AIデイリーブリーフで今日の重要ニュースをまとめ読み