エージェントシステムにオントロジーが不可欠な理由 — UC バークレー

エージェントに「信頼性」をもたらす鍵：オントロジーと神経記号 AI の融合

大規模言語モデル（LLM）が生成する確率的な振る舞いは、AI エージェントの導入における最大の課題である「ハルシネーション（幻覚）」や「整合性の欠如」を生み出します。この問題を解決し、実務レベルで信頼できるエージェントを構築するためには、LLM の柔軟性と、オントロジーや知識グラフといった形式的なルールを融合させる「神経記号 AI」のアプローチが不可欠です。

確率と形式の融合：神経記号 AI が求めるもの

AI エージェントの歴史は古く、1956 年のダートマス会議以来、「知覚し、判断し、行動する」存在として研究されてきました。しかし、現在の LLM は本質的に「確率的」なモデルです。これは欠点ではなく、人間が想像力を持って新しい現実を創り出す能力と同じメカニズムであり、LLM の特徴的な機能です。

「ハルシネーションは LLM の欠陥ではなく、彼らが『何かを創造する』という性質そのものだ」

この確率的な性質を制御し、実社会で使えるようにするためには、オントロジー（概念の形式的な定義）や知識グラフといった「記号的・形式的な表現」と組み合わせる必要があります。これを「神経記号 AI」と呼びます。これはニューラルネットワーク（LLM）とルールベースシステム（オントロジー）を結びつけることで、LLM に堅牢なガードレールを設定するアプローチです。

オントロジーの構築：既存の知恵を活かす3 つのアプローチ

組織やドメインの知識をオントロジーとして形式化する際、ゼロから作ろうとする必要はありません。主に以下の 3 つのアプローチがあります。

1. トップダウンアプローチ（専門家による設計）

過去のエキスパートシステムのように、専門家が集まりドメインを分析してエンティティ（例：注文書、顧客、担当者）やその関係性を定義する方法です。しかし、この手法はスケーラビリティに課題があり、かつての AI 冬の要因の一つとなりました。

2. ボトムアップアプローチ（データからの抽出）

実際の顧客反応や業務データからエンティティや関係を抽出し、グラフデータベースに追加していく方法です。現場の実態に合わせてオントロジーを拡張していくことで、柔軟性を保ちます。

3. 既存のタクソノミーの活用

最も効率的なのは、すでに存在する標準的な用語集や分類体系を活用することです。

• Schema.org: Web 上の情報を構造化するための一般的な用語セット。
• DBPedia: ウィキペディアを基盤にした巨大なグラフデータベース。検索機能の背後で使われています。
• FOAF (Friend of a Friend): ソーシャルネットワークのモデリング用。
• Dublin Core: 学術論文や書籍の記述用の標準用語。

これらの既存リソースを活用することで、同じ車輪を再発明するコストを避け、即座に信頼性の高い基盤を構築できます。

グラフデータから推論と制約を引き出す技術

オントロジーは単なるデータの集まりではありません。RDFS（RDF Schema）や OWL（Web Ontology Language）といった技術を用いることで、グラフデータから新たな情報を「推論」し、ビジネスルールを強制する仕組みを作ることができます。

推論による情報の付加

• ドメインとレンジ: 「教える (teaches)」という関係のドメインが「教師」、レンジが「学生」であると定義しておけば、「ボブがスコッターを教える」という記述から、自動的に「ボブは教師であり、人間である」「スコッターは学生である」という情報を推論できます。
• 推移性: 「祖先 (ancestor)」が推移的な性質を持つと定義すれば、「スーがメリーの祖先」かつ「メリーがアンの祖先」であれば、「スーもアンの祖先である」という新たな関係性が導き出されます。

制約による整合性の確保

• 機能性プロパティ: 「父親 (has father)」は機能性プロパティ（1 つの個人に父親は 1 人だけ）と定義できます。これにより、「ボブがジムの父親」かつ「BB がジムの父親」という記述があった場合、システムは自動的に「ボブと BB は同じ人物である」と推論し、矛盾を検出します。

これらの推論や制約ルールはグラフデータそのものには含まれず、その上に位置するメタ情報として機能し、エージェントの判断を厳密に管理します。

検証可能な「純粋なエージェント」の実装戦略

LLM を用いたエージェント設計において、ループ（反復処理）は不可欠ですが、無限ループやトークン数の暴走、他エージェントとの会話によるズレといったリスクがあります。これを防ぐには、以下の 2 段階の検証プロセスを組み合わせた「純粋なエージェント」を構築する必要があります。

1. パラメータの型チェック: Pydantic などのライブラリを用いて、LLM が生成した入力やパラメータが事前に定義された型（整数、文字列、特定の列挙値など）に合致しているかを厳格に検証します。不正な入力がシステムに入らないようにします。
2. オントロジーによる結果検証: エージェントの出力や推論結果が、構築したオントロジーのルールや制約と矛盾していないかを確認します。

このアプローチにより、副作用のない、信頼性の高いエージェントを構築できます。LLM の創造性を活かしつつ、その振る舞いを形式的なルールで制御するハイブリッドな設計こそが、企業レベルでの AI エージェント導入における標準的なアーキテクチャとなるでしょう。

まとめ

神経記号 AI は、LLM の「確率的な創造性」とオントロジーの「厳密な論理」を融合させることで、信頼性と整合性を担保する鍵となります。既存のオントロジーを活用し、推論と制約ルールを組み合わせてエージェントを設計することで、ハルシネーションに悩まされない実用的な AI システムを実現できます。