エージェント・フレームワークに潜む危険性 — Rémi Louf氏

エージェント・フレームワークの罠：複雑なグラフより「堅牢なイベント処理」が真の課題である

AI エージェント開発において、多くの開発者が陥っているのは「複雑なグラフ定義」や「高度なフレームワークへの依存」です。しかし、実際に朝の業務自動化を 2 週間かけてゼロから構築した経験から得た結論は、真の課題は AI の不確実性ではなく、ログ管理や型安全性といった従来のソフトウェア工学の問題にあるという事実でした。

プロンプト編集の非効率さと「コードレス」への回帰

エージェント開発を始める際、多くの人が最先端のフレームワークに飛びつきます。確かにこれらのフレームワークは優秀ですが、実務で使ってみると大きな壁にぶつかりました。私が直面したのは、プロンプトをコード内で直接編集し続けるという非効率な作業でした。

プロンプトをコードの中で編集するのは、非常に使い勝手が悪いのです。

このアプローチでは、プロンプトの変更履歴を追うことが難しく、誰がいつ何を変更したのかを把握するのが困難になります。そこで私は、YAML や設定ファイルのような「コードレス」な形式を採用しました。これにより、バージョン管理（Git）での差分確認や、プルリクエストによるレビューが可能になり、実装のスピードと信頼性が劇的に向上しました。

時間指定ではなく「イベント駆動型」で動くシステム

朝の業務自動化において、クロンジョブ（時間指定実行）は不十分でした。例えば、音声メモを録音した瞬間に処理を開始したい場合、「いつ録音されたか」ではなく「録音が完了した」という事象（イベント）がトリガーになる必要があります。

私が構築したのは、特定の事象をトリガーとするイベント駆動型アーキテクチャです。システム内のあらゆる出来事——メールの到着、CRM への新規登録、PR のマージなど——がイベントとして発火し、それに応答するエージェントが自律的に動作します。

エージェントは単なるクロンジョブではなく、イベントを受け取り（accept）、処理して新しいイベントを放出（emit）する存在です。

例えば、音声メモが入力されると「Voice Note Processed」というイベントが発生し、それを別のエージェントが受け取って要約を作成。さらにその結果を Slack に投稿するという一連の流れは、複雑なグラフ定義なしに、各エージェントがイベントの発受ルールを守るだけで自然に実現されました。

エージェント失敗の本質：AI の不確実性ではなく「ソフトウェア工学」の問題

システムを実際に運用し始めた瞬間、いくつかの致命的なバグが発生しました。朝の日報が二重送信されたり、重要な音声メモが消えたり、プロンプトの変更により要約内容が破綻したりしたのです。

これらの失敗の原因は、AI モデル自体の不確実性ではありませんでした。明確に以下のソフトウェア工学の問題が起因していました。

1. ログ管理の欠如: 過去の処理履歴やエラー状況を追跡する手段がなく、何が起きたのか特定できなかった。
2. 重複処理: 同じタスクが複数回実行されるのを防ぐキューイング機構が存在しなかった。
3. 型安全性の不足: エージェント間のデータ受け渡しにおいて、期待する形式と実際の形式が一致せず、システムが破綻した。

エージェントの失敗は、AI の不確実性ではなく、ログ管理の欠如や重複処理といった従来のソフトウェア工学の問題に起因します。

コンテンツアドレス型システムによる完全なトレーサビリティの実現

最も大きな課題だったのが、「モデルに実際に入力されたプロンプト」を正確に追跡できない点でした。チャット形式のインターフェースは、ユーザーに「その時見たもの」という錯覚を与えますが、実際にはコンパクション（圧縮）や内部処理によって情報が失われている可能性があります。

この問題を解決するために、私はビルドシステムや Git のようなコンテンツアドレス型システムを独自に実装しました。プロンプトの各要素（システムメッセージ、スキル説明、ツール定義、ユーザー入力など）をハッシュ化して管理し、モデルへの入力を「リストの集合」として扱うことで、出力結果から入力されたすべての情報を完全に遡れるようにしました。

ログこそがシステムの記憶であり、何も失われず、すべてが観測可能でなければなりません。

この仕組みにより、どのイベントがどのイベントをトリガーしたかという因果関係も明確になり、複雑なエージェント間でのデバッグが劇的に容易になりました。

まとめ：成熟した AI エージェントの未来は「堅牢性」にある

今回の実験から得られた教訓は、AI エージェントの成熟度を測る基準が「複雑なグラフ定義」や「高度なフレームワークの使用」から、「堅牢なイベント処理」と「型安全性」へとシフトする必要があるという点です。中小企業や個人開発者にとって、大規模なフレームワークへの依存を減らし、シンプルな設定ファイルとイベント駆動の仕組みで堅牢な自動化システムを構築できる道筋は、すでにここにあります。