責任を持てないエージェントを構築するな — アディ・オスマニ

AI エージェント時代、エンジニアに求められるのは「責任」と「審美眼」だ

AI エージェントの自動化が進む未来において、エンジニアの役割は「コードを書く人」から「何を選択し、その結果に責任を持つ人」へと劇的に変化します。生成コストが下がるほど重要になるのは、膨大な選択肢の中から「どれを存在させるか」を決める審美眼（Taste）と、その決定に対する説明責任です。

エンジニアの役割：「実行」から「判断」へ

AI エージェントの台頭は、エンジニアリングのボトルネックを「構築能力」から「責任と品質管理」へとシフトさせています。かつてはコードを書く速度や量に価値がありましたが、現在はエージェントが内部の実行ループ（調査、実装、テストなど）を担うようになっています。

重要なのは、この自動化が進む中で人間がどうループに留まるかです。アディ・オスマニ氏は、将来のエンジニアは「何を作るか」を選ぶ能力と、最終的な品質決定に対する説明責任（Answerability）によって定義されると説きます。

判決（Judgment）とは、何かをリリースするか、ブロックするか、リスクを受け入れるかなど、生産に関する決定に対して責任を負うことです。説明責任こそが、私たちがその判断の背後に立てることを可能にします。

これは単なる「裁判官」になることではありません。プロトタイプ作成や保守といった実際の作業モードはエージェントが支援しますが、「どの品質基準を適用するか」「最終的に誰が結果を所有するか」という高レバレッジな判断は、人間が行う必要があります。

「審美眼（Taste）」こそが希少な資産となる理由

生成コストが低下し、誰でも AI を使って 10 個の選択肢を瞬時に生成できるようになった時、真に価値を持つのは「どの選択肢を残すか」を選ぶ能力です。これをオスマニ氏は「審美眼」と呼びます。

センス（Taste）とは、客観的な指標が存在しない状況で、高品質な定性的判断を下す能力のことです。

ベンチマークや市場評価が完全に確立される前であっても、モデルが構築する UX や体験の質に「違和感」を感じるかどうかは、人間の審美眼によって埋められるギャップです。生成コストが下がるほど、この「何を選ぶか」という判断能力は希少となり、エンジニアの競争優位性の鍵となります。

ただし、審美眼は永遠の堀（Moat）ではありません。モデルが学習するにつれてその差は縮まります。重要なのは、審美眼を神秘化せず、「なぜその判断を下したのか」をチームやシステムが学べる事例として残し、判断力を磨き続けることです。

避けるべき3つの罠：認知負債と管理の限界

AI エージェントに過度に依存することで陥りやすいリスクには、以下の3つがあります。これらを回避しなければ、システム全体の責任を持つことはできません。

1. 認知負債（Cognitive Debt）

リポジトリにあるコード量と、チームが実際に理解している量の差です。エージェントがコードを書き、テストもパスしても、人間が生産環境のシステムを説明する能力を失うリスクがあります。「ビルドは通るが、なぜ通ったのか、どこにリスクがあるのか」を理解できなければ、それは認知負債です。

2. 認知的放棄（Cognitive Surrender）

AI の回答を盲目的に受け入れる状態です。委任（Delegation）は「作業を行い、判断できる十分な証拠を示せ」という姿勢ですが、放棄は「あなたの答えが私の答えになる前に確認しない」という態度です。

ワートン大学の研究によると、AI が間違っていた場合でも、73% の人が自分が正解だと信じていました。失敗のモードは AI を使わないことではなく、「他者の自信を借りている」状態です。

3. オーケストレーション税（Orchestration Tax）

数百ものエージェントを並列で動かそうとすると、人間の認知帯域幅が追いつきません。多くのループを管理するために意思決定のルーティングや統合に時間を取られ、結果として生産性が低下します。

運用モデル：「説明できないものは出荷するな」

この新しい時代におけるエンジニアリングの境界線は、「人間がすべての行を入力するか」ではありません。「証拠と責任」の有無です。エージェントは差分、テスト、ログ、根拠といった証拠を返しますが、本格的なエンジニアリングはそこから始まります。

説明できるか、出荷するか（Explain or Ship）。これは人間がすべてのコードを読む必要があるからではなく、誰かがその作業を十分に理解して擁護できる必要があるからです。

システムの一部に対して「所有者」がいるように、AI が生成した変更に対しても、リスクを理解している証拠があり、誰が責任を負うかを明確にする必要があります。エージェントはランブック（手順書）に従えますが、結果の責任や爆発半径（失敗時の影響範囲）を継承することはできません。

まとめ：レバレッジを生むのは「判断」だ

自動化が進んでもエンジニアリング量が減るわけではありません。むしろ、品質感覚、検証、所有権が必要となる対象領域は増えます。ボトルネックは「これを構築できるか」から、「これは存在すべきか、またそれに対する責任を負えるか」へと移りました。

エージェントがより多くの道筋を可能にする世界で、真の主体性（Agency）とはすべての経路を追うことではなく、どのパスに注力し、その結果に対して責任を持つ「判断」です。コードを書く能力だけでなく、システムについて推論し、リスクを管理し、何かが起きた時に頼れる人こそが、これからのエンジニアなのです。