Google Cloud が常時メモリエージェント発表
Google Cloud は、従来の RAG や埋め込みベクトルデータベースに依存しない「Always-On Memory Agent」を公開し、LLM が常時背景で情報を統合・構造化する新パラダイムを示した。
キーポイント
RAG/Embedding 不要のアーキテクチャ
ベクトルデータベースや埋め込み計算を一切使用せず、LLM が直接 SQLite に構造化されたメモリを読み書きする軽量な背景エージェントとして実装されている。
3 つの専門サブエージェントによる自動化
IngestAgent（入力処理）、ConsolidateAgent（定期的な統合と洞察抽出）、QueryAgent（回答生成）が連携し、人間の介入なしに記憶を継続的に更新する。
マルチモーダル対応と低コスト設計
テキスト、画像、音声、動画など 27 ファイル形式に対応し、Gemini 3.1 Flash-Lite を採用することで低レイテンシと低コストでの常時稼働を実現している。
能動的な記憶処理の革新
従来の受動的な検索（RAG）とは異なり、アイドル時間にも情報を統合・分析する「能動的な処理」により、より深い文脈理解と接続性を構築する。
RAG/埋め込み不要のアーキテクチャ
ベクトルデータベースや埋め込みを使用せず、LLM が直接読み取り・思考して構造化されたメモリを SQLite に書き込む方式を採用しています。
継続的なコンソリデーション機能
アイドル時に 30 分ごとに自動的に実行され、関連する記憶をリンクさせながら新たな洞察を生成・保存します。
多様なファイル形式の非同期処理
./inbox フォルダに投入されたテキスト、画像、音声、動画、PDF などの 27 種類のファイルタイプを自動的に取り込み処理できます。
重要な引用
It is the Always-On Memory Agent, a reference implementation that treats memory as a running process.
Notably, it uses no vector database and no embeddings. Instead, an LLM reads, thinks, and writes structured memory into SQLite.
Unlike RAG, this agent processes memory actively, not only on retrieval.
No vector DB, no embeddings — an LLM reads, thinks, and writes structured memory into SQLite.
Consolidates every 30 minutes — links related memories and writes new insights while idle.
影響分析・編集コメントを表示
影響分析
この発表は、AI エージェントにおける「記憶」の扱い方を根本から変える可能性を秘めています。従来の検索強化生成（RAG）に依存しないアーキテクチャは、システム全体の複雑さを減らしつつ、より文脈を理解した継続的な対話を実現する道を開きます。特に低コストで常時稼働できる点は、大規模な自律型エージェントやリアルタイム分析システムの普及における重要なマイルストーンとなります。
編集コメント
ベクトルデータベースというインフラを排除し、LLM そのもので記憶の統合を行うアプローチは、アーキテクチャの簡素化とコスト削減において極めて革新的です。Gemini 3.1 Flash-Lite の性能を活かしたこの実装は、次世代エージェント開発の新たなデファクトスタンダードとなる可能性があります。
多くの AI エージェントは記憶を保持できません。リクエストを処理して回答すると、文脈を捨ててしまいます。Google Cloud の生成 AI リポジトリには、この課題に直接取り組むサンプルが用意されています。それが「Always-On Memory Agent（常時稼働メモリエージェント）」です。これは、メモリを単なるデータではなく、継続的なプロセスとして扱うための参考実装です。
このプロジェクトの本質は、決して停止しない軽量なバックグラウンドエージェントにあります。一度きりの呼び出しではなく、24 時間 365 日、常時稼働する連続プロセスとして動作します。開発には Google ADK（Agent Development Kit）と Gemini 3.1 Flash-Lite が採用されています。特筆すべきは、ベクトルデータベースも埋め込み（embeddings）も使用しない点です。代わりに LLM が読み取り、思考し、構造化されたメモリを SQLite に書き込みます。このモデル選定は、継続的なバックグラウンド処理における低遅延と低コストを実現するためになされています。
仕組み：取り込み、統合、検索
アーキテクチャ上、オーケストレーターがすべてのリクエストを 3 つの専門サブエージェントのいずれかにルーティングします。各サブエージェントは、メモリストアの読み書きに特化した独自のツールを持っています。
まず IngestAgent が着信コンテンツを処理します。Gemini のマルチモーダル機能を活用して、要約、エンティティ、トピック、重要度スコアを抽出。この構造化されたレコードが「memories」テーブルに登録されます。
次に ConsolidateAgent がタイマーで稼働し、デフォルトでは 30 分ごとに実行されます。睡眠サイクルのように、未統合のメモリを見直し、相互間の関連性を発見します。そしてデータベースに合成された要約と、主要な洞察、関連付けを記録します。これにより、エージェントはプロンプトなしでアイドル状態でも新たな理解を構築していくのです。
最後に、QueryAgent が質問への回答を行います。蓄積されたすべてのメモリと統合された洞察を読み込み、それらを統合して回答を生成します。重要なのは、回答の根拠となったメモリの ID を明記することです。
(function(){
window.addEventListener("message",function(e){
if(e.data && e.data.type==="aoma-resize"){
var f=document.getElementById("aoma-frame");
if(f && e.data.height){ f.style.height=e.data.height+"px"; }
}
});
})();
対応する入力形式について
テキストだけでなく、IngestAgent は 5 つのカテゴリにわたる 27 のファイルタイプを受け付けます。対応するファイルを ./inbox フォルダにドラッグ＆ドロップするだけで、自動的に読み込まれます。
カテゴリと拡張子
- テキスト：.txt, .md, .json, .csv, .log, .xml, .yaml, .yml
- 画像：.png, .jpg, .jpeg, .gif, .webp, .bmp, .svg
- オーディオ：.mp3, .wav, .ogg, .flac, .m4a, .aac
- ビデオ：.mp4, .webm, .mov, .avi, .mkv
- ドキュメント：.pdf
RAG、要約、知識グラフとの比較
違いを明確にするため、3 つの一般的なメモリアプローチを対比します。それぞれが問題の一部を解決していますが、いずれにも課題が残されています。
| アプローチ | 保存方法 | アクティブな処理 | 主な限界 |
|---|---|---|---|
| ベクター DB + RAG | ベクターストア内の埋め込みベクトル | なし | パッシブ（一度埋め込み、後で検索） |
| 会話の要約 | 圧縮されたテキスト | なし | 詳細が失われ、相互参照ができない |
| 知識グラフ | ノードとエッジ | 手動での維持管理 | 構築・維持コストが高い |
| Always-On Memory Agent | SQLite の構造化行 | 継続的な統合 | クエリ時に直近のメモリ最大 50 件を読み取る |
このエージェントは、RAG と異なり、検索時だけでなくメモリを能動的に処理します。
ユースケースと具体例
実務的には、このパターンは永続的で進化し続ける文脈を必要とするあらゆるワークロードに適用可能です。具体例として 3 つ挙げましょう。
研究アシスタントが、1 週間にわたって PDF ファイル、会議の音声データ、スクリーンショットを取り込みます。その後、システムが自動的に「コスト目標」と「信頼性の問題」を関連付けます。
個人のナレッジベースは、ノート、記事、画像を継続的に吸収します。時間が経つと、統合機能によって、これまで明示的につなげていなかったテーマが浮かび上がってきます。
サポートエージェントは、過去のチケットを構造化されたメモリとして保存します。そして、新しい質問に対して、以前の事例への引用付きで回答を提供します。
始め方
設計が明確になれば、初期段階のエンジニアにとってセットアップは最小限で済みます。依存関係をインストールし、API キーを設定するだけでプロセスを開始できます。
pip install -r requirements.txt
export GOOGLE_API_KEY="your-gemini-api-key"
python agent.py実行すると、エージェントは ./inbox フォルダを監視し、30 分ごとに統合処理を実行します。また、ポート 8888 で HTTP API を提供するため、HTTP を通じてデータを送信することも可能です。
# テキストの取り込み
curl -X POST http://localhost:8888/ingest \
-H "Content-Type: application/json" \
-d '{"text": "AI agents are the future", "source": "article"}'
# 質問の実行
curl "http://localhost:8888/query?q=what+do+you+know"さらに、API には /status、/memories、/consolidate、/delete、/clear のエンドポイントも用意されています。オプションで Streamit ダッシュボードを利用すれば、取り込み、検索、閲覧、削除の操作を GUI で実行できます。CLI フラグでは、監視対象フォルダ、ポート番号、統合間隔を変更可能です。
python agent.py --watch ./docs --port 9000 --consolidate-every 15
キーポイント
ベクトルデータベースも埋め込み（embeddings）も不要。LLM が読み込んで思考し、構造化されたメモリを SQLite に直接書き込む仕組みです。
Google ADK と Gemini 3.1 Flash-Lite を活用した軽量なバックグラウンドプロセスとして、24 時間 365 日稼働します。
オーケストレーターの下に「取り込み（Ingest）」「統合（Consolidate）」「照会（Query）」の 3 つのサブエージェントが配置されています。
アイドル時に 30 分ごとに統合処理を実行。関連するメモリをリンクさせ、新たな知見を書き出します。
./inbox フォルダに放り込むだけで、テキスト、画像、音声、動画、PDF を含む 27 種類のファイル形式を取り込み可能です。
完全なコードはこちらで確認できます。Twitter でフォローしたり、ML サブレッド（15 万人以上が参加）に参加したり、ニュースレターを購読するのもおすすめです。Telegram ユーザーの方にも好消息です。今なら Telegram でも私たちとつながれます。
GitHub リポジトリや Hugging Face ページ、製品リリース、ウェビナーなどのプロモーションをご希望の場合は、ぜひパートナーシップのご相談を。
本記事は MarkTechPost に掲載された「Google Cloud の常時稼働型メモリエージェントが RAG と埋め込みを置き換え、Gemini 3.1 Flash-Lite で LLM による連続統合を実現」という内容の続きです。
原文を表示
Most AI agents forget. They process a request, answer it, then drop the context. Google Cloud’s generative-ai repository now ships a sample that tackles this directly. It is the Always-On Memory Agent, a reference implementation that treats memory as a running process.
Always-On Memory Agent
Fundamentally, the project is a lightweight background agent that never stops. It runs 24/7 as a continuous process, not a one-shot call. It is built with Google ADK (Agent Development Kit) and Gemini 3.1 Flash-Lite. Notably, it uses no vector database and no embeddings. Instead, an LLM reads, thinks, and writes structured memory into SQLite. The model choice targets low latency and low cost for continuous background work.
How It Works: Ingest, Consolidate, Query
Architecturally, an orchestrator routes every request to one of three specialist sub-agents. Each sub-agent owns its own tools for reading or writing the memory store.
First, the IngestAgent handles incoming content. It uses Gemini’s multimodal capabilities to extract a summary, entities, topics, and an importance score. That structured record then lands in the memories table.
Next, the ConsolidateAgent runs on a timer, every 30 minutes by default. Like sleep cycles, it reviews unconsolidated memories and finds connections between them. Then it writes a synthesized summary, one key insight, and those connections to the database. Consequently, the agent builds new understanding while idle, with no prompt.
Finally, the QueryAgent answers questions. It reads all memories and consolidation insights, then synthesizes a response. Importantly, it cites the memory IDs it used as sources.
(function(){
window.addEventListener("message",function(e){
if(e.data && e.data.type==="aoma-resize"){
var f=document.getElementById("aoma-frame");
if(f && e.data.height){ f.style.height=e.data.height+"px"; }
}
});
})();
Supported Inputs
Beyond text, the IngestAgent accepts 27 file types across five categories. Simply drop any supported file into the ./inbox folder for automatic pickup.
CategoryExtensions
Text.txt, .md, .json, .csv, .log, .xml, .yaml, .yml
Images.png, .jpg, .jpeg, .gif, .webp, .bmp, .svg
Audio.mp3, .wav, .ogg, .flac, .m4a, .aac
Video.mp4, .webm, .mov, .avi, .mkv
Documents.pdf
How It Compares to RAG, Summaries, and Knowledge Graphs
To clarify the difference, it frames three common memory approaches. Each solves part of the problem, yet leaves a gap.
ApproachHow it storesActive processingMain limitation
Vector DB + RAGEmbeddings in a vector storeNonePassive; embeds once, retrieves later
Conversation summaryCompressed textNoneLoses detail; no cross-reference
Knowledge graphsNodes and edgesManual upkeepExpensive to build and maintain
Always-On Memory AgentStructured rows in SQLiteContinuous consolidationQuery reads up to 50 recent memories
Unlike RAG, this agent processes memory actively, not only on retrieval.
Use Cases With Examples
Practically, the pattern fits any workload needing durable, evolving context. Consider three examples.
A research assistant ingests PDFs, meeting audio, and screenshots all week. Later, it links a cost target to a reliability problem on its own.
A personal knowledge base absorbs notes, articles, and images continuously. Over time, consolidation surfaces themes you never explicitly connected.
A support agent stores past tickets as structured memories. Then it answers new questions with cited references to earlier cases.
Getting Started
With the design clear, setup stays minimal for early-level engineers. Install dependencies, set your key, then start the process.
Copy CodeCopiedUse a different Browser
pip install -r requirements.txt
export GOOGLE_API_KEY="your-gemini-api-key"
python agent.py
Once running, the agent watches ./inbox, consolidates every 30 minutes, and serves an HTTP API on port 8888. Therefore, you can also feed it over HTTP.
Copy CodeCopiedUse a different Browser
Ingest text
curl -X POST http://localhost:8888/ingest \
-H "Content-Type: application/json" \
-d '{"text": "AI agents are the future", "source": "article"}'
Ask a question
curl "http://localhost:8888/query?q=what+do+you+know"
Additionally, the API exposes /status, /memories, /consolidate, /delete, and /clear. An optional Streamlit dashboard adds ingest, query, browse, and delete controls. CLI flags change the watch folder, port, and consolidation interval.
Copy CodeCopiedUse a different Browser
python agent.py --watch ./docs --port 9000 --consolidate-every 15
Key Takeaways
No vector DB, no embeddings — an LLM reads, thinks, and writes structured memory into SQLite.
Runs 24/7 on Google ADK + Gemini 3.1 Flash-Lite as a lightweight background process.
Three sub-agents under one orchestrator: Ingest, Consolidate, and Query.
Consolidates every 30 minutes — links related memories and writes new insights while idle.
Ingests 27 file types across text, images, audio, video, and PDFs, dropped into ./inbox.
Check out the FULL CODES here. Also, feel free to follow us on Twitter and don’t forget to join our 150k+ML SubReddit and Subscribe to our Newsletter. Wait! are you on telegram? now you can join us on telegram as well.
Need to partner with us for promoting your GitHub Repo OR Hugging Face Page OR Product Release OR Webinar etc.? Connect with us
The post Google Cloud’s Always-On Memory Agent Replaces RAG and Embeddings With Continuous LLM Consolidation on Gemini 3.1 Flash-Lite appeared first on MarkTechPost.
関連記事
今日のまとめ
AI日報で今日の重要ニュースをまとめ読み