AI効率化が次世代の専門家を育むリスクを指摘

10 年以上前、私は米国のある原子力発電所向けに、世界初の完全デジタル制御システムの設計統括を務めました。紙面上では完璧なシステムであり、現代の旅客機のように自律して稼働し、オペレーターは必要に応じて見守るだけの仕組みでした。

しかし、効率至上主義の視点から見れば「時代遅れ」に見える決断を下しました。システムが単独で実行可能な工程の中に、あえて手動ステップを設けたのです。

これは特定の課題に対する解決策でした。自動化をただ監視するだけの実務者は、次第にオペレーターとしての機能を失います。手が冷たくなり、プラントの実際の稼働状況に関する頭の中のモデルも曖昧になっていきます。そしてやがて、自動化システムから制御権を返還される日が訪れます。それはいつも最悪の日です。なぜなら、自動化が制御を放棄するのは混乱した時かトラブル発生時だけだからです。その頃には、長年実際に操作を行っていない人間がコントロールルームに座っていることになります。

手動ステップを設けたのは、人間のスキルを維持するためでした。これは意図的に非効率な設計だったのです。

実はそのプラントは建設されませんでした。この国における原子力発電を取り巻く政治や経済事情によって、工学的な理由とは無関係にプロジェクトは棚上げされたのです。しかし、設計者の直感はプロジェクトを超えて生き残り、現在すべての経営会議を席巻している議論に対する私の提言として最も有用なアイデアだと確信しています。

それは、AI がかつて専門家の育成を支えていた業務を担うようになったとき、人間の専門性はどうなるのかという問いです。

AI はエンジニアリングのキャリアラダーを揺るがしている

無視できるデータではもはやありません。ハーバード大学のワーキングペーパーは、28 万社以上で働く約 6,500 万人の労働者を対象に分析を行いました。その結果、企業が生成 AI を導入した後、非導入企業と比較して 6 クォーター（1.5 年）以内に若手雇用の割合が約 9% 減少したことが明らかになりました。一方、シニア層の雇用は引き続き増加傾向にあります。

また、ADP の給与記録を分析したスタンフォード大学の調査も同様の結果を示しています。最も AI の影響を受けやすい職種において、2022 年後半以降に若年労働者の地位が低下する一方で、経験豊富な同僚たちはその地位を維持しました。スタンフォードの研究者らは、AI が業務を自動化する領域で損失が集中していることを発見しています。一方、AI が単に業務を補助するにとどまる分野では、若手雇用の水準は横ばい、あるいは上昇傾向にあります。

因果関係に関する議論は依然として決着がついておらず、正直に言えばその通りです。ニューヨーク連邦準備銀行の研究者たちは、若手大学院生の失業率上昇の主な原因を AI ではなくリモートワークにあると指摘しています。彼らの主張では、企業側が遠隔地から指導やメンタリングができない未経験者を雇うことに消極的になっているからです。

しかし、これらの説明に共通している点に注目してください。モデルが新人の基礎的な業務を吸収してしまったのか、あるいは遠隔勤務によってその周囲のメンタリング関係が断絶してしまったのか。いずれの場合も、シニアからジュニアへと専門性が伝承される「徒弟制度」の経路が機能しなくなっているという同じ破綻したメカニズムを指しています。どちらにせよ、「エントリーレベル」という言葉は静かに「3 年以上の実務経験が必要」という意味に変容してしまいました。

ノイズを取り除けば、残るのは一見単純すぎるほどシンプルな問題です。ジュニアエンジニアを経ずにシニアエンジニアにはなれないのです。専門知識はダウンロードされるものではなく、失敗を繰り返すビルド作業や行き詰まったデバッグセッション、そして「なぜこれがうまくいったのか」という不可解な瞬間を通じて培われるものです。しかし、有能な AI は今やこれらの経験を新人に代わって喜んで引き受けてくれます。こうした機会を十分に奪われてしまった世代は、紙面上ではモデルの監督が可能でも、モデルが自信満々かつ壊滅的な誤りを犯しているかどうかを直感的に見極める感覚は育ちません。

多くの議論はこの診断で止まってしまうか、あるいは若手職の喪失を経済問題として扱う政策解決策を探ろうとします。しかし、これは同時にエンジニアリングの問題でもあり、安全性が極めて重要な分野では、この問題をどう解決するかについて数十年にわたる学習が既に積み重ねられています。

自動化のパラドックスに関する航空業界の教訓

私のキャリアは、自動化の最前線から始まりました。学校を卒業して最初の仕事は、戦闘機のエンジンがどのように反応するかを、どんなパイロットよりも速く決定するデジタルジェットエンジンコントローラーのソフトウェアを検証・検証することでした。1980年代後半の時点で、すでに明確な緊張関係が存在していました。機械は日常的なケースでは人間を上回りますが、機械が想定しなかった事態においては、人間だけが航空機と災害の間にある唯一の盾なのです。この緊張関係は「自動化のパラドックス」として知られています。つまり、能力が高まる自動化によって人間のオペレーターの実践機会が減り、彼らが直面するのは最も困難な状況だけになってしまうという矛盾です。

航空業界は、その隙間で人間のスキルが衰えることがどうなるかを、何度も、そして莫大な費用をかけて学びました。その典型例が、2009年に大西洋に墜落したエアフランス447便の事故です。直接的な原因は極めて平凡なものでした。凍結した空速センサーがオートパイロットに誤ったデータを供給し、それは設計通りに動作しました。つまり、システムを切り離して機体の操縦権を乗組員に戻したのです。その後起きたのはハードウェアの故障ではありませんでした。能力の欠如による失敗です。回復可能な状況が回復不能なものになったのは、自動化が飛行しているのを何千時間も見守ることで条件付けられたパイロットたちが、高高度での失速を読み取れず、手動で機体を操縦して脱出できなかったからです。航空機自体は正常に機能していました。しかし、自動化によって静かに侵食されていた訓練は機能していなかったのです。

業界の対応は示唆に富んでおり、私たちがあの原子炉制御室で行った動きと全く同じです。自動操縦装置を撤去したわけではありません。むしろ、意図的な手動訓練を再び組み込んだのです。

2017 年、FAA（連邦航空局）は「手動飛行操作の熟練度」をテーマにした安全注意報 17007 を発令し、「手動飛行こそが、他の技術的な操縦スキルを支える基盤である」と明言しました。この注意報では、技能の低下自体が重大な危険要因であることを正式に認めています。

一部の航空会社は手順を改定し、天候の良い条件下でも離陸直後と着陸直前の飛行を手動で行うよう推奨しました。これは、わずかな燃料効率の低下という代償を払ってでも、乗組員の基本的な操縦スキルを維持するための明確な判断です。このトレードオフこそが本質的なポイントです。

完璧に最適化されたシステムが、無能なオペレーターを生み出しているとしたら、それはもはや最適化されてなどいません。単に失敗のモードが、数値表では見えない場所へ移しただけのことなのです。

手動によるゲート（閾値）がエンジニアリングスキルを維持する

航空業界の教訓と原子力産業の直感を並べて考えると、AI を活用した業務において今すぐ必要となる設計パターンが見えてきます。それは意図的な「手動ゲート」です。

マニュアルゲートとは、ワークフロー上において人間がコントロールを握るポイントのことです。それはタスクを最速で完了させるためでもなく、単なる安全装置として設けられるのでもありません。むしろ、そうしなければ失われてしまうスキルを維持・強化するために存在します。

その決定的な特徴は「選択されている」点にあります。組織が人間に保持すべき能力を設計段階で決定し、それが最悪の日（バッドデイ）に必要になるものだと判断するのです。そして、そのスキルが冷めぬよう必要な摩擦を意図的に組み込みます。

AI に依存してコードの大部分を生成するソフトウェアチームを例に考えてみましょう。このチームは、失うことが最も許されないスキル——デバッグ能力——を中心にマニュアルゲートを設けます。重要なモジュールで不具合が発生した際、担当エンジニア（あえて新人を選定することも多い）は、まず AI アシスタントをオフにした状態で、その障害の再現、根本原因の特定、そしてバグを捉えた自動テストの作成を行います。

エンジニアが診断結果にコミットした後で初めて AI モデルが再活性化し、修正案の提示や代替案の生成、コードベース全体での類似バグの探索を開始します。その後、エンジニアは自身の診断とモデルの提案を比較検討します。両者が食い違った時こそ、この設計が真価を発揮する瞬間です。最悪の日が訪れた際に混乱が生じるのではなく、その前に意見の相違を浮き彫りにし、対話を通じて解決策を探る仕組みになっているのです。

このアプローチは、若手エンジニアの役割を根本から捉え直すものです。現在の直感的な考え方は、AI がより速く安価に作業を行うため、初級業務を任せるというものです。しかし、その一部は単なる削減すべき過剰コストではありません。それは将来のシニアスタッフを育成するための訓練装置であり、他の重要なインフラと同様に守るべきものです。今四半期においては非効率的に見えるかもしれませんが、それを静かに解体することは、10 年後の能力を質すような行為に他なりません。

なぜ企業が若手エンジニアの育成を続ける必要があるのか

これらにはすべてコストがかかります。そうではないと振る舞うことは、予算承認に関わる人々への侮辱になります。意図的な人的チェックは、構造上、完全な自動化よりも短期的には非効率的です。若手が形成期の業務に従事し、手動手順を実行させることは、将来を守るために現在の何らかのコストを伴います。

これは、四半期ごとの成果でリーダーの多くを評価する市場においては、非常に説得力のある提案とは言い難いものです。「AI が代替可能な不要な人材」を抱えているとみなされた執行役員は、その投資効果が現れる遥か以前に、取締役会から厳しい追及を受けることになります。この計算が成立するのは、その圧力から隔離されている人物に限られます。すなわち、コントロール権を持つ創業者、非公開企業、真に長期的視点を持つ機関、あるいはパイロットが技能を定期的に証明することを義務付ける規制当局などです。つまり、自らの専門性を維持する可能性が高い組織は、短期的な利益を犠牲にして長期的な能力に投資できる構造的余裕を持つ者たちであり、それ以外の組織には外部からの後押しが必要となるのです。

一言で言えば、意図的な非効率性は無駄ではありません。安全が最優先されるエンジニアリングの世界では、これは常に「保険」として知られており、私たちはあえてそれを購入します。

AI が専門性が培われる業務を担い始めた今、自動化に抵抗するのではなく、設計上から人間がコントロールを握り続けることが賢明な選択です。そうすれば、自動化が必ずやいつか失敗した際にも、操縦席には飛行の仕方を理解している人間が残っているからです。