自動アシスタントに必要なのはトークン増ではなくグラフメモリ—Neo4jのStephen Chin氏

トークン増やさない、グラフメモリで自動アシスタントの精度を飛躍させる：Neo4j 氏による「CrabRAG」の実証

AI エージェントが複雑な推論を行う際、従来の記憶システムは「トークンの壁」と「関係性の欠如」によって致命的な誤答を引き起こすリスクがあります。Neo4j の Stephen Chin 氏は、単なるテキストやベクトル検索に頼るのではなく、データ間の明確なつながりを保持する「グラフメモリ」を採用することで、セキュリティ診断のような高難易度タスクにおいて圧倒的な精度を実現できることを実証しました。

従来の記憶システムが抱える「忘却」と「誤解」の壁

自動アシスタントの開発において、私たちはより賢く、自律的なエージェントを求めていますが、現状の記憶管理ツールはむしろ足かせとなっています。Chin 氏が例に挙げるのは、まるで毎日朝になると昨日のことを忘れる「カニ（Crab D）」のような存在です。

現在主流となっている多くのフレームワークでは、エージェントの記憶は Markdown ファイルやベクトルデータベースとして保存されます。これらは人間が読みやすく、管理しやすいという利点がありますが、AI エージェントにとっては大きな欠陥を抱えています。

まず、トークン数の制限が深刻な問題です。エージェントは必要な情報を文脈（コンテキスト）に含めるため、毎日大量のデータをロードします。Chin 氏によると、平均的なエージェントでも 1 ラウンドで 10 万トークンを消費し、その多くが重複や不要な情報で埋め尽くされています。「何か役に立つかもしれない」という思い込みで全データを読み込もうとするこの手法は、小規模な環境では機能しても、大規模なエンタープライズ環境では非現実的です。

また、関係性の欠如も致命的です。ベクトルデータベースは「類似性」に基づいて検索を行うため、文脈上似ている情報同士を結びつけてしまいますが、実際の論理的なつながり（例えば、「A というポートが開いていると、B というリスクが発生する」といった因果関係）までは捉えきれません。

「ベクトル検索で得られるのは『関連する事実』であって、『正しい答え』ではありません。似ているからといって、それが正解であるとは限りません。」

このため、複雑な多段推論（マルチホップ推論）が必要なタスクでは、エージェントはハルシネーション（もっともらしい嘘）を吐いたり、全く関係ない情報に基づいて誤った判断を下したりするリスクが高まります。

グラフメモリがもたらす「正確さ」と「説明可能性」

Chin 氏が提唱するのは、Neo4j を活用した「CrabRAG」というアプローチです。これは、データをノード（物体）とエッジ（関係性）で構成されるグラフ構造として保持する記憶システムです。

グラフメモリには、ベクトル検索とは異なる強力な特性があります。

1. 明確な関係性の保持: ノード間のつながりが構造化されているため、「ポート開放→脆弱性→攻撃経路」といった複雑な論理チェーンを正確に追跡できます。
2. 多段推論の精度向上: ベクトル検索で「シードノード」を見つけ、そこからグラフ構造に沿って隣接するノードへ移動（トランバース）することで、文脈を失わずに深掘りした回答が得られます。
3. 説明可能性と監査性: 回答に至った経路がグラフのパスとして可視化されるため、「なぜその結論になったのか」を人間が検証・追跡できます。これはセキュリティ診断など、誤答が許されない分野で不可欠な機能です。

このアーキテクチャでは、ベクトル検索とグラフ検索を組み合わせます。まずベクトル検索で関連するノードを見つけ出し、次にグラフ構造を使ってその周辺を探索し、関係性の強さでランク付けを行います。これにより、単なる類似性ではなく、文脈に即した正確な回答が導き出されます。

また、Graph 構築の難易度も低下しています。「Claude は Cypher（Neo4j のクエリ言語）を私より上手に書ける」と Chin 氏は指摘し、LLM を活用してエンティティ抽出やグラフ構築を行うことで、専門家でなくても実装が可能であることを強調しました。

デモで証明された「自宅ラボ」でのセキュリティ診断精度

Chin 氏は、この理論を実証するため、自身の自宅ラボをデジタルツインとして再現した高リスクなデモを行いました。環境は本番ネットワークから切り離されたセグメント化された VLAN で構成されており、エージェントは過去の知識（メモリ）のみに基づいて判断する必要があります。

テストでは、同じデータセットを用いて「ベクトルデータベース（A 群）」と「グラフメモリ（B 群：CrabRAG）」を比較しました。課題は、「エンドオブライフ（EOL）のソフトウェアが公開されているポート」や「ネットワーク設定上のリスク」を特定することです。

結果は明確でした。

• ベクトル検索: 類似する情報に基づいて回答しようとするため、重要なリスクを見落としたり、関係のない情報を結びつけて誤った結論を出したりしました。複雑な推論が必要な場面では、まるで「間違った貝殻（Shell）を食べてしまう」ような状況に陥ります。
• グラフメモリ（CrabRAG）: ノード間のつながりを追跡することで、ポート開放とソフトウェアの脆弱性、そしてネットワーク上のリスク経路を正確に特定しました。ベクトル検索では不可能だった多段推論も、関係性のパスをたどることで正確に実行されています。

このデモは、単なる情報検索から一歩進み、AI エージェントが「論理的推論」と「意思決定」を行うための基盤技術としてグラフメモリが有効であることを示しました。特にセキュリティ監査や大規模データ分析といった、高精度が求められる分野において、生成 AI の実用性を飛躍的に高める可能性を秘めています。

まとめ

自動アシスタントの記憶システムにおいて、トークン数の増加に頼る従来のアプローチには限界があります。Neo4j が提唱するグラフメモリは、データの「関係性」を構造化して保持することで、複雑な推論における誤答やハルシネーションを劇的に減らし、信頼性の高い意思決定を可能にします。AI エージェントの次のステップとして、ベクトル検索とグラフ構造の融合が不可欠な技術基盤となりつつあります。