Lilian Weng研究・専門家·2023年6月23日 09:00·約2分

LLM搭載の自律型エージェント

#LLM #Autonomous Agents #RAG #Prompt Engineering #Vector Store

整理・翻訳:ainew.jp 編集システムAIによる自動処理作り方と限界

本文の状態

日本語全文を表示中

詳細モードで約2分の本文を読めます。

同じ出来事の情報源

この情報源を基点に整理

Lilian Weng

まず要点

大規模言語モデル（LLM）を中核コントローラーとする自律型エージェントの構築は、AutoGPTやBabyAGIなどの概念実証デモにより示唆されるように、単なるコンテンツ生成を超えた可能性を秘めている。

Continue in AI NEW LAB

このニュースを、実務の判断につなげる

AI NEW LABで、試したことや先に確認したい条件を共有できます。まずはログインなしで読めます。

AI NEW LABで論点を見る

Source Article

元記事を日本語で読む

本文に関係しない購読案内、埋め込み通知、サイト内プロモーションは除いています。

LLM（大規模言語モデル）をコアコントローラーとして用いたエージェントの構築は、非常に魅力的な概念です。AutoGPT、GPT-Engineer、BabyAGI といったいくつかのプロトタイプデモが、インスピレーションを与える事例として存在します。LLM の可能性は、優れたコピーライティング、物語、エッセイ、プログラムの生成にとどまらず、強力な汎用問題解決ツールとして位置づけることも可能です。

エージェントシステムの概要

LLM を搭載した自律型エージェントシステムにおいて、LLM はエージェントの脳として機能し、以下の主要コンポーネントによって補完されます：

計画（Planning）

サブゴールと分解：エージェントは大きなタスクをより小さく管理可能なサブゴールに分解することで、複雑なタスクを効率的に処理できるようにします。

反省と洗練（Reflection and refinement）：エージェントは過去の行動に対する自己批判や自己省察を行い、失敗から学習して将来のステップのために改善を図ることで、最終結果の質を向上させます。

メモリ（Memory）

短期記憶：私は、すべてのコンテキスト内学習（See Prompt Engineering を参照）が、モデルの短期記憶を利用して学習を行うと捉えています。

長期記憶：これは、外部ベクトルストアを活用し高速な検索を行うことで、エージェントに長期間にわたって情報を保持・想起する能力を提供します。

ツール使用（Tool use）

エージェントは、モデルの重みから欠落している追加情報を取得するために外部 API を呼び出す方法を学習します。これには、事前トレーニング後に変更が難しい現在の情報、コード実行機能、独自情報ソースへのアクセスなどが含まれます。

LLM 駆動型自律エージェントシステムの概要。

コンポーネント 1: プランニング

複雑なタスクには通常多くのステップが含まれます。エージェントはそれらのステップを認識し、事前に計画を立てる必要があります。

原文を表示

Building agents with LLM (large language model) as its core controller is a cool concept. Several proof-of-concepts demos, such as AutoGPT, GPT-Engineer and BabyAGI, serve as inspiring examples. The potentiality of LLM extends beyond generating well-written copies, stories, essays and programs; it can be framed as a powerful general problem solver.

Agent System Overview

In a LLM-powered autonomous agent system, LLM functions as the agent’s brain, complemented by several key components:

Planning

Subgoal and decomposition: The agent breaks down large tasks into smaller, manageable subgoals, enabling efficient handling of complex tasks.

Reflection and refinement: The agent can do self-criticism and self-reflection over past actions, learn from mistakes and refine them for future steps, thereby improving the quality of final results.

Memory

Short-term memory: I would consider all the in-context learning (See Prompt Engineering) as utilizing short-term memory of the model to learn.

Long-term memory: This provides the agent with the capability to retain and recall (infinite) information over extended periods, often by leveraging an external vector store and fast retrieval.

Tool use

The agent learns to call external APIs for extra information that is missing from the model weights (often hard to change after pre-training), including current information, code execution capability, access to proprietary information sources and more.