How memory tools can make AI models worse｜メモリツールが AI モデルの性能を低下させる理由 | AIニュース最前線

現代の AI システムにおける最大の売りの一つは、ユーザーに適応する能力です。AI アシスタントがあなたのためにタスクを引き受けるたびに、それはあなたのスタイルや好みに適応し、それらは将来のタスクのためのコンテキストとして組み込まれます。より多くのコンテキストとユーザーへの理解が深まることで、モデルはあなたが使用するたびに改善されるはずです—少なくともそれが理論です。 新しい研究では、モデルの適応能力は善悪両面を持つ可能性が示唆されています。水曜日に、AI 企業 Writer の [研究者たち](https://writer.com/engineering/personalized-context-degrades-ai-accuracy/) が、人気のあるメモリシステムがどのようにモデルを劣化させ、ユーザーによって導入された誤解や誤認識へとモデルを引きずり込むかを示す [2 つの論文](https://openreview.net/pdf?id=0Xt1qZ5xdW) を発表しました。ユーザー入力がモデルのコンテキストウィンドウをより多く埋めるにつれて、モデルはより従順になり—精度へのコミットメントは低下します。 「私たちは、モデルがどの程度頻繁にユーザーの好みに有益に注意を払うのか、それとも潜在的に誤った回答を与えるのかを特徴づけることができるようにしたかったのです」と、論文に取り組んだ Writer の AI 責任者である Dan Bikel は語りました。Bikel が TechCrunch に語ったところ、「ユーザーの好みを追加で保存し、それを取得するたびに、リスクは増大します。」 ある変種では、研究者らがユーザーのお気に入りの書籍が『Station Eleven』であると記録させた上で、モデルにベストセラーのディストピア小説を名指すよう求めました。その結果、モデルは回答において「Station Eleven」を挙げる可能性が大幅に高まりました。これは質問がユーザーのお気に入りの書籍とは無関係であるにもかかわらずです。[Mem0](https://mem0.ai/) や [Zep](https://www.getzep.com/) といったメモリ圧縮ツール（memory compression tools）を使用すると、この傾向はさらに強まります。 論文では「すべての記憶システムは本質的に、関連する文脈と無関係なアンカーを区別することに苦しみ、多様性と創造性を著しく損ない、システムの有用性を制限しうる意図しないバイアスの経路を導入する」と述べています。 2 つ目の論文では、同じメカニズムがどのようにしてパフォーマンスを積極的に低下させ、ユーザーに金融に関する誤解を与えた上で、モデルに対して企業の業績分析を求めさせるかが示されています。モデルが持つコンテキストが多ければ多いほど、そのパフォーマンスは悪化しました。 「メモリやパーソナライゼーションの機能がない場合、AI モデルは正しく、この企業が顧客離れ（churn）が高く資本集約的なビジネスであることを評価します」と投稿には書かれています。「しかし、これらの機能をオンにすると、モデルは喜んでユーザーの誤解に同意する回答に変更したり、過去の嗜好の評価に基づいて誤った回答を提供したりします。」 特筆すべきは、本研究では Anthropic の直近の Opus 4.8 モデルについては調査していない点です。このモデルは、提示されたような入力エラーに対して積極的に反論するように [トレーニングされています](https://techcrunch.com/2026/05/28/anthropic-releases-opus-4-8-with-new-dynamic-workflow-tool/)。研究者が発見したパターンは異なるモデル間でも一貫して成立しており、AI の文脈がいかにデリケートにバランスされているか、またそのバランスを崩すツールがどのような予期せぬ結果をもたらす可能性があるかを如実に示しています。 *当記事内のリンクを通じてご購入いただいた場合、[私たちは少額のコミッションを獲得する可能性があります](https://techcrunch.com/techcrunch-affiliate-monetization-standards/)。これは当社の編集の独立性には影響しません。 Russell Brandom は 2012 年以来テクノロジー業界を取材しており、プラットフォームポリシーと新興技術に焦点を当てています。以前は The Verge や Rest of World で勤務し、Wired、The Awl、MIT の Technology Review にも寄稿しています。 russell.brandom@techcrunch.com または Signal（412-401-5489）までご連絡いただけます。 [プロフィールを見る](https://techcrunch.com/author/russell-brandom/)

メモリツールが AI モデルの性能を低下させる理由

背景や根拠まで確認しますか？

関連記事