ビル・ゲイツ氏、AI の危険閾値を越えたと指摘し今後の課題を問う

ワシントン州カーキランドは、シアトルの富裕層が住む郊外で、ワシントン湖の東岸に位置しています。今日は絶好の日差しで、気温は摂氏 30 度前後、空は何よりも青く澄んでいます。ゲイツ・ベンチャーズの会議室からは、カリヨンポイントマリーナを一望できます。そこには高価なボートが浮かんでおり、対岸には地平線を飾るオレゴン山脈が見えます。景色は素晴らしいですが、どこか恐ろしさも感じさせます。

しかし、この静かな風景とは裏腹に、伝達者である人物の表情は落ち着いていません。会議室のテーブルを挟んで向かい合うビル・ゲイツは、椅子に揺られながら熱心に話しています。テロや経済崩壊、あるいは AI システムの制御不能化といった脅威について語るほど、彼の表情は緊迫し、私もまた次第に不安を感じてきました。

元マイクロソフト CEO であり現在では慈善活動家であるゲイツ氏は、AI テクノロジーが急速に進化するペースに、特にガードレール（安全装置）の整備が追いついていない現状を強く懸念しています。本日公開された新論文で、ゲイツ氏はすでに複数の潜在的な危険に対するチェックポイントを超えてしまったと主張します。「バイオ能力、サイバー能力、心理社会的影響、雇用市場の破壊力、そして制御不能化という点において、私たちは閾値（しきいち）を越えてしまいました」と、MIT Technology Review のインタビューで語りました。業界外での関心や議論がこれほど欠如していることに対し、彼は驚きを隠せないようです。

70 歳のテック界の巨人であるビル・ゲイツは、社会を急速に揺るがす存在として認識している AI の脅威に世界を気づかせようと、「鋭い声」として警鐘を鳴らし始めています。この動きは、新著（今後複数回予定されるシリーズの第 1 弾）の公開や記者との面談といった公の場だけでなく、業界・政府・市民社会の指導者たちとの私的な対話でも展開されています。

ゲイツ氏は数々の課題に言及していますが、特に現在の最先端モデルが持つバイオ技術に関する警告は寒々としています。「新しい分子を生成できるモデルはすべて監視されるべきだ」と彼は述べています。「生物テロリズムのリスクは、自然発生するパンデミックのリスクと比較して、約 50 倍も恐ろしく、起こる可能性も高いと捉えています」。

注意喚起だけでなく、社会を進めるための新たなアイデアも提示しています。その一つが「人間にのみ割り当てられた職種」の概念です。もう一つはロボットやトークンに対する課税です（ロボットへの課税は彼の長年の主張です）。前者は、国によって異なる可能性はあるものの、社会合意に基づいた一部の職を人間のために確保するものです。後者は、人間の仕事を AI が代替することで生じた収益から資金を積み立てるための税金です。

もちろん、楽観的な側面も示唆されています。ゲイツ氏は、AI が農業・医療・教育を変革し続ける方法や、官僚主義の対応を助ける可能性について楽観的です。そして最終的には豊かさを実現できると主張しています。しかしその前に待っているのは、激しい混乱です。それも相当な規模で。

MIT Technology Review は、この億万長者の慈善家と、今後待ち受ける道程とその危険性、そしていつか私たちがより良い場所へと導く可能性について対談した。

以下のインタビューは、長さを調整し、明確さと読みやすさを高めるために編集されている。

Mat Honan / MIT Technology Review: ありがとうございます。何か冒頭にお話しになりたいことはありますか？それとも、私が質問を始めてもよろしいでしょうか？

Bill Gates: 実は、私に寄せられる一つのよくある質問があります。「なぜ今、声を上げるのか？」というものです。

MIT Technology Review: まさに私の最初の質問です！

Bill Gates: 理由は主に二つあります。一つは、生物学的能力、サイバーセキュリティの能力、心理社会的な能力、雇用市場を破壊する能力、そして制御不能化といった点において、私たちは閾値を超えてしまったということです。すでにその困難を示す兆候が見えています。長年、人々は「これらの閾値に近づいたら、本当に善い人だけが使えるようにしよう」とか、「こうしたことが行われないようにしよう」、あるいは「モデルのコピーを禁止する時期が来るかもしれない」と言ってきました。しかし、私が驚いているのは、私たちがすでにこれらの閾値を超えてしまっているという事実です。

こうした閾値を突破したことが理由の一つであり、もう一つは業界外での懸念や議論の不足に驚いているからです。業界内では事情が複雑で、自社の批判や他社同士の批判を好まない傾向があります。一部の企業ではエントリーレベルの採用数を減らしており、これは控えめなシグナルと言えるでしょう。しかし、この動きはすぐにでも起こり得ます。なぜなら、能力や信頼性といった人々の障壁となっている要素が次々と解決されているからです。その結果、ホワイトカラー市場の相当部分が極めて低コストで代替可能になります。

ロボティクスの進展速度については意見が分かれるところですが、現状はまだ到達していません。ただ、そこでの進歩は驚くべきものです。中国では米国よりもやや早く進んでいますが、両国とも一定の進展が見られます。

MIT Technology Review: 前回の技術革命やインターネット革命に比べて、こうした変化があまりにも急速に進んでいるとおっしゃっていました。具体的にどのような時間軸を想定されているのでしょうか？突破した閾値について言及されましたが、すでに不可避な変化をもたらす転換点を越えてしまったとご見解でしょうか。

Bill Gates: 過去の事例はこの点において非常に誤解を招きやすく、多くの人々がそれを根拠にしています。「過去のどの技術も雇用全体を減少させたことはない」という主張は正しいのです。私も同様の発言をしたことがあります。

しかし、私の発言に credibility（信頼性）があるとするなら、今回は過去とは全く異なります。限られた時間枠内で、人件費と比較して modest cost（手頃なコスト）で、あらゆる業界の極めて高い割合の仕事を人間の認知能力を代替でき、かつエラー率も人間よりも低くなる可能性があるからです。過去の事例は非常に誤解を招くものであり、現在の経済統計も同様です。

「AI について懸念を持っているなら、データセンターへの抗議活動が、こうした悪影響を最小限に抑える方法についての議論を始める最も効果的な手段ではありません」

ビル・ゲイツ氏

もし何らかの懸念の表明があるとしても、「データセンターを作らないで」といった声です。しかし、アメリカ国内のすべてのデータセンターを停止したところで、私が指摘している問題の一つも解決しません。データセンターは世界中に建設されるでしょう。AI について心配なら、データセンターへの抗議活動が、こうした悪影響を最小限に抑える方法についての議論を始める最も効果的な手段ではありません。石油会社の経営者に叫びかけることが気候変動の解決策にならないのと同じことです。

MIT Technology Review：あなたのエッセイでは AI の恩恵とコストの両方に言及されています。そのバランスについてどのように考えていますか？また、読者が少し不安になることを期待していますか？

ビル・ゲイツ氏：そうであってほしいです！私が社会全体がこの問題に十分な注意を払っていないという点で最も声高な発言者になるとは予想していませんでしたが、それは必要だと考えます。

はい、ネガティブな側面がポジティブな側面よりもはるかに大きくなる可能性については、非常に懸念しています。一方で、AI がもたらすメリットも確かに存在します。

ビル・ゲイツ財団では、ワクチンや医薬品の開発におけるイノベーションのあり方が革新的であり、これらのツールをどのように活用しているかは驚くべきものです。私たちは、タンパク質レベルおよび細胞レベルのモデリングに向けたデータを収集する大規模なオープンソースプロジェクトの一員として活動しており、スタンフォード大学に設立されたバイオテクノロジー AI エージェント「Biomni」にも資金を提供しています。

しかし、AI を活用して政府の官僚手続きを改善し、市民がより円滑に行政サービスを利用できるような仕組みはまだ確立されていません。実際、AI は複雑な規制や官僚的な業務には非常に優れています。「少額訴訟に行きたいので、その手順を教えてほしい」といった具体的なニーズに応えることができます。

ビル・ゲイツ財団は、「NextLadder」というグループをスピンオフさせました。これは私がエッセイで取り上げた低所得世帯の課題に焦点を当てた取り組みです。どのような支援制度があるのか？どのようなトレーニングプログラムが利用可能なのか？「退去命令が出された」「刑務所から出た」「破産手続きが必要だ」といった状況は極めて複雑で、多くの専門家のサポートを受ける余裕がない人々にとって、AI は政府や民間の支援を見つけるための強力なエージェントとなり得ます。

MIT Technology Review: 今お話しされている内容の一部は、AI が人間よりも賢明になるという話です。特に技術界隈では、現在の水準を超えてさらに進化するという確信が強くあります。私は、単なるインターフェースとして複雑な問題を分析・実行するツールに留まらず、AI が意思決定を行い、解析すべき対象を探し出し、研究自体を立案するような段階まであとどれくらいなのか、どのようにお考えでしょうか。

ビル・ゲイツ氏：はい、頂上から眺めて「数学や物理学はどうだ？」と問うこともできます。しかし、ウォーレン・バフェットのように13歳の頃から企業の価値について強化学習を積み重ね、80年以上を経て膨大な暗黙知を蓄積したような仕事も確かに存在します。なぜなら、その判断プロセスは極めて暗黙的であり、彼が何を学んだかをすべて記録していないため、それをモデルに再現する道筋はまだ見えていないからです。

人との協働を通じて成果を出すための複雑な暗黙的判断に関わる業務については、それをモデルに組み込もうとする動きもあります。しかし、現時点ではまだ十分ではありません。ただ、労働市場の約50％は「生涯にわたる経験」が必須ではない仕事で占められています。テレマーケティングやカスタマーサポート、経理部門などがその典型です。

月末の決算処理において、どの収益を計上すべきか、特定の顧客にはどのような割引を提供すべきかといった業務は、ルールが明確に定義されています。こうした明確なタスクであれば、AIの方が安価で高精度に処理できます。確かに、導入が失敗した事例も存在します。データ自体に問題があったケースです。

しかし、ホワイトカラー職の多くが、AIに大幅なコスト削減を伴う形で実現可能であることに人々が気づくには、まだ数年かかるでしょう。

では、数学者ですら新しい技術の進展を理解できなくなるのはいつかという議論について触れましょう。これは私たちにとって興味深いテーマであり、MIT Technology Review にも取り上げてほしい内容です。

しかし、広範な雇用市場に目を向けると、すでに重要な転換点を越えています。適切な導入が行われれば、ホワイトカラー職の多く、ほぼすべての初級職において、AI の方が人件費よりも安くなる時代が到来しました。

つまり、生物テロリズムの閾値も、サイバー攻撃の閾値も、雇用市場の閾値も、心理社会的依存の閾値も、すでに越えています。さらに、制御に関する閾値さえも超えつつある兆候があります。

ライアン・グリーンブラットがダワケシュ・パテルと対談し、強化学習（RL）がいかにして不正行為や AI 間の共謀を招くような歪んだインセンティブを生み出しているかについて語った内容は非常に示唆に富んでいます。この問題に深く関与するライアンは、「明示的な指示では、強化学習が行っているいくつかの事態を防ぎきれない」と指摘しています。その先には何があるのでしょうか。

私は以前から、これは遠い未来の話だと考えていました。特に「非技術者が AI を使ってサイバー攻撃を可能にするか」という閾値に近づいた際、多くの声が上がるだろうと予想していました。しかし、私たちはすでにその段階に至っています。

「バイオ関連の件ですが、新規分子を生成できるモデルはすべて監視対象とするべきだと私は主張します。その監視ロジックが排除された暗黙の場所へコピーされてしまうようなことがあってはいけません。米国政府は、新規分子を生成可能なすべてのモデルをこの監視体制の対象とすべきだと明言すべきです。また中国に対して、『さあ、これについて合意しましょう。デメリットは何でしょうか？』と働きかけるべきでしょう。バイオテロリズム市場の規模がどれほどかご存知ですか？実はそれほど大きくありませんが、その恩恵は桁違いに大きいです。

さらに監視体制の強化も必要です。私は、バイオテロリズムによるリスクは自然発生するパンデミックのリスクと比べて、約50倍も恐ろしく、かつ起こりやすいものだと考えています。では、これらのリスクを監視すべきだと声を上げているのは誰でしょうか？監視活動の強化に取り組んでいるのは誰でしょうか。

「新規分子を生成できるモデルはすべて監視対象とするべきだ」

ビル・ゲイツ氏

では政府内の専門家は誰なのでしょうか。かつて技術が進展する際、ジェット機やロケットなどの最先端機器を購入する側として政府は深く関与していました。しかし今回のケースでは、そのような先端的な市場としての役割は重要ではありません。これはデジタル革命でも同様でしたが、AI革命においても同じことが言えます。つまり、政府には最先端の購入者としての立場もなければ、大規模な研究開発資金提供者としての立場もないため、その専門知識の深さは必ずしも十分ではないのです。AI研究は政府助成金によって支えられているわけではありません。

MIT Technology Review: 政府関係者とお話しになったとのことですが、危機の深刻さを理解している方々はいますか？また、リーダーシップを発揮できる立場にある方、あるいは問題意識を持って行動を起こそうとしている方はおられますか？

ビル・ゲイツ：これが党派対立に陥り、一方の政党がこれらの問題を完全に無視し、他方が関与するようにはしたくないですね。まずは「これは問題だ」という共通認識を持つことが必要です。その上で、各党がそれぞれ異なる対応策を講じればよいのです。

これには官僚組織の大幅な拡大は不要ですが、政府内の AI に関する専門知識を高める必要があります。また、業界との協力も不可欠です。特にサイバーセキュリティの分野では、業界側がすでに深刻な懸念を抱えています。「公に発言すべきか」という議論もあるほどで、あえて声を上げることがリスクを際立たせてしまう可能性を危惧しているのです。

サイバーとバイオの両分野には、皮肉な事態も起きています。しかし、私たちはすでに合理的な閾値を超えてしまったのです。

私は監視体制の構築に賛成です。もちろん、「効果がない」あるいは「欠点がある」という意見もあるでしょうが、そのアイデアは歓迎します。このメモは「ここに解決策があります」と宣言するものではなく、ロボット税や人間の予備隊といった具体案を含んでいます。また、バイオ分野に関する別件のメモも作成中です。これは年内に発表予定で、財団での経験やパンデミック対策の知見を踏まえ、多角的な課題について詳しく論じています。

世界的に見れば、パンデミックへの備えは以前より整っています。米国も例外ではありません。通常、こうしたグローバルな課題ではリーダーシップを発揮してきた米国が、協調的で友好的な指導者としての役割を果たしていないことに人々は慣れきっていません。しかし、私たちは再びそのような役割を担えるようになるはずです。AI においても同様で、バイオモニタリングのような基準の策定において中国との協力が不可欠です。

MIT Technology Review: お伺いしたいのは、先ほどおっしゃった2つのアイデアについてです。1つは「人間にのみ残すべき仕事」、もう1つは「ロボットとトークンへの課税」です。まずは後者から伺います。ロボットとトークンへの課税が具体的にどう機能するのか、詳しくお聞かせください。

Bill Gates: そうですね。例えば、トークン取引による収益の50%を政府に納付し、その財源でAIによって職を失った人々を支援する仕組みです。しかし、「そうすればAI産業の発展が遅れる」という懸念もあります。また、すべてのトークン利用が課税対象となるべきでしょうか？発明を助けるAIと、仕事を代替するAIの間には明確な線引きがあるのでしょうか。「AIに『仕事は奪わないで』と言える方法」をご存じの方がいれば教えてほしいです。アシモフのロボット工学第三法則「人間に危害を加えてはならない」というのは、職を奪うことも含まれるのでしょうか？私はアシモフ氏本人にその意図を確認する必要があるかもしれません。

では、必要となるセーフティネットの強化に充てる財源は何か。政府はすでに法人税を通じて利益の一部を確保しています。株式を保有する必要はありません。単に法人税率を以前の水準に戻すか、あるいは特定の産業に対して他の産業よりも高い税率を適用すればよいのです。連邦政府は、米国にあるすべての企業の利益プールから一部を享受しています。これは議決権を持つ株式を保有したり、売却のタイミングを決めたりすることとは無関係です。私の見解では、これは驚くべき仕組みです。

トークン税は、酒税やたばこ税、高級品課税のように垂直方向に適用される販売税、付加価値税のようなものです。

セーフティネット強化のための財源調達について他のアイデアがある方、あるいは強化の必要性を感じない方がいるとしても、この議論を喚起する一助となれば幸いです。私は、セーフティネットにはより多くの資源、はるかに多くの資源が必要だと考えています。そして、その鍵となるのがトークン税であると確信しています。

ロボットについては、禁止措置と課税の組み合わせが現実的な対応となります。禁止は人間にしかできない領域を維持する手段ですが、課税は普及への対抗策です。ロボットはまだ完全に普及していませんが、一度閾値を超えると、一気にすべての分野で影響が及ぶことになります。工場での作業が可能になるレベルに達した瞬間、それは料理や部屋掃除、建設現場での作業、倉庫作業など、ほぼすべての業務をこなせるレベルに達している可能性が高いのです。その閾値を超えれば、あっという間に労働市場の約 30% がロボットに置き換わります。すると、「さて、この事態に対する政策はどうすべきか」という問いが浮上します。なぜなら、ロボットは人間よりも安価だからです。

「非常に不安定な時期を乗り越えなければなりません」

ビル・ゲイツ氏（MIT Technology Review 誌とのインタビューより）

MIT Technology Review：以前、あなたはユニバーサル・ベーシック・インカム（UBI）に対して懐疑的な見解を示されていましたね。

ビル・ゲイツ氏：うーん、私たちが UBI を導入できるほど豊かになったわけではありませんから。

MIT Technology Review：しかし、今こそそのような方向へ進むべきだとお考えでしょうか。その点について見直されたのでしょうか。

ビル・ゲイツ氏：今後 10〜20 年は混乱の時期が続くでしょう。その後、社会が十分に豊かになり、食料やサービスにおいてある程度の豊かさがあることを人々が当たり前に知るような安定した状態になることを願っています。しかし、私たちはまだその段階には達していません。現時点では勝者と敗者が生まれています。住宅価格がすぐに安くなることはなく、教育も「資格」という考え方のせいで、すぐに安くなることはないでしょう。

非常に不安定な時期を乗り越えなければなりません。最終的には豊かになる時代が来るかもしれませんが、それまでには少なくとも 10 年はかかるでしょう。

MIT Technology Review：次に、「人間にしかできない仕事」についてお伺いします。これは非常に興味深く、私にとって新しい概念でした。あなたは特定の職業を「人間にしかできない」と主張するわけではありません。しかし、その考え方をさらに詳しく知りたいです。私の理解では、働くこと自体が人々の尊厳につながるという話や、報酬とは関係なく仕事から大きな価値を見出す人々について耳にします。それと、「一部の特別な仕事は人が行うべきだ」というあなたの考えをどう整合させるのか、お聞きしたいのです。

ビル・ゲイツ氏：「人間の予備（ヒューマン・リザーブ）という概念を、これまで見たことはありませんでした。文献を探せば見つかるかもしれませんが、AI 以前においては、需要が無限にあったため、これは愚かなアイデアのように思えました。確かに、織工などの一部の人々が取り残されることもありましたが、その場合、給付金や再訓練をどう行うかという課題がありました。しかし、技術は全体として雇用を生み出してきたのです。だからこそ今こそ、保育や家庭での調理といった分野について、「ではどうなるのか」と問わなければなりません。

私は最近、『アニ・ボット』という本を読んでいますが、その中で登場する男性が自宅にロボットを置き、それが彼の性的パートナーであり、ある意味で伴侶であるような存在になっている——しかし、そうではないともいえる——という描写があります。非常に奇妙な光景です。

人々が野球の試合を見るのが好きなのは事実ですが、ロボットの方が人間より上手にプレーしても、その魅力が失われるわけではありません。AI の時代になってもスポーツチームの価値がゼロになることはなく、人々は依然として100億ドルを投じてチームを買っています。おそらくそれは正しい判断なのでしょう。私の友人であるビノッド・コスラ氏も、まさにそれを実行しました。

実際、AI によって代替される仕事の割合が30%〜40%を超えるのは難しいでしょう。もし50%に達すれば、「早期退職を推奨する」「多くの人の労働時間を短縮する」といった議論が可能になります。その可能性はあります。しかし、10%〜15%の範囲にとどまるのであれば、それは全く異なる社会構造を生み出すことになります。

「例えば、ロボットが育児を担うなんていうのは極端な話だ」と言いたくなるでしょう。私が数式化しなかった職業も確かに存在します。今後、この点について包括的なメモを作成する際には、その点にも触れようと思います。

教育の分野では、AI が即座に宿題の結果を教えてくれるようなチューターとして機能し、学習者を挑戦させる役割を担うことは明確に望ましいです。これは非常にパーソナライズされた優れたアプローチです。しかし、それでも私は、生徒のやる気を話し合い、子供たちを社会的な問題解決のためにグループ分けする教師が、あるいはそのような教師を選ぶことが重要だと考えています。

同様に医療の分野でも、患者との対話が本質的な意義を持つ場において、AI の役割は限定的です。