LLM エージェントの計画実行を支援する「Procedural Graph」を発表

大規模言語モデルは、長期にわたる計画立案と外部ツールを通じた行動実行を担うエージェントとして、ますます広く活用されるようになっています。しかし、現在の多くのエージェントは、蓄積された履歴に基づいて制約のない生成によって行動を選択しており、「何を」「どの順序で」「どのような条件下で行うか」という手続き的知識が暗黙のうちに残ったままとなっています。

その結果、実行経路が長くなるにつれて、エージェントは目的を見失ったり、ツールの呼び出し順序を誤ったり、非生産的な行動を繰り返したりするようになります。そこで私たちは「Procedural Graph（手続きグラフ）」を導入しました。知識グラフが事実的知識を「(エンティティ, 関係, エンティティ)」のトリプルとして整理し、「何であるか」という問いに答えるのと同様に、Procedural Graph は手続き的知識を「(手順, 関係, 手順)」のトリプルとして組織化し、「何をすべきか」という問いに対応します。

各意思決定ステップにおいて、このフレームワークはエージェントが現在アクティブなノードを特定し、ガイダンスモデルがその周囲の部分グラフを解釈して、次の行動を指し示すのではなく方向づける段階ごとの状況ガイダンスに変換します。このグラフは自己進化型であり、LLM リファイナが失敗した経路と成功した経路を対比させてグラフのトポロジーや属性を編集します。その際、検証用データセットでの性能を維持または向上させる編集のみを採用し、失敗したパターンを保持することで類似のミスを防止します。

最小限の骨格からスタートしてこのループが回れば、手作業で設計されたグラフに匹敵する、あるいはそれを超えるグラフが構築されます。また、欠陥のある専門家事前知識の修正も可能です。

複数のデータセット、タスクタイプ、LLM において、Procedural Graph はメモリベースの基底モデルを上回る一貫した性能向上をもたらします。さらに、自己進化機能により、手動での設計工数をかけずにパフォーマンスをさらに高めることが可能になります。