映画レビュー：『The AI Doc』

『The AI Doc：あるいは、私がアポカリプス・オプティミストになった方法』は、素晴らしい作品です。 ![image](https://substackcdn.com/image/fetch/$s_!zOKi!,w_1456,c_limit,f_auto,q_auto:good,fl_progressive:steep/https%3A%2F%2Fsubstack-post-media.s3.amazonaws.com%2Fpublic%2Fimages%2F3b566717-50f6-42ed-8c9e-8f9b4b26582d_366x538.png) （これは完全にネタバレを含む概要です。まだ『The AI Doc』をご覧になっていない場合は、ぜひご覧になることをお勧めします。このドキュメンタリーは、現実的にあり得た範囲で、ほぼ完璧な出来栄えです。） 多くの作品と同様、この映画が機能しているのは、その核心部分が真実だからです。ドキュメンタリーの制作者は明らかに結婚し子供をもうけ、AI についてパニックになり、息子の未来への不安から適切な人々に質問をし、実際には正しく理由に基づいた存在リスク（existential risk）に直面してさらにパニックになりました。そして、そのパニックをやめ、代わりに楽観的になるための旅に出ます。そこで多くの適切な人物を見つけ、技術的な専門用語を使わない良い質問を投げかけ、ある程度は騙され、地味な安全への懸念に耳を傾け、トップの CEO たちとのインタビューを探して実現し、自分自身にすべてを無視できると言い聞かせようとしつつも、最終的には希望に満ちた赤ちゃんたちの群れで終わらせるのではなく、未来を形作るための行動を呼びかける結末を選びました。 タイトルは正しい。これは「私がどのようにアポカリプス主義者になったか」、そしてなぜそうありたかったのかについての話であり、アポカリプス主義が正確であるという主張のための議論ではない。より大きなストロウスのメッセージは、タイラー・コーエンに対する反論として、「介入は偽物だ」ということではなく、「人々が多くの場合、AI について誤ったことを信じることを選ぶのは、事態がうまくいくと感じるためである」という点にある。 編集の選択や、何をインターカットし、どの部分を切り取るかという選定は明らかに技術的知識を持たない外部者によるものであり、彼らの不安に対処しようとする試みから来ている。これら多くの選択は私のものではないだろう。特に兵器や物理的な破壊への強調などはそうだ。しかし、それらがすべて組み合わさることで全体が本物であることを明確に示しているからこそ、機能していると私は考える。 さて、ここに物語がある。これはオンラインでも称賛され、存在リスクを心配する人々から、そして加速主義の楽観派の何人かからも公平で良い作品として評価された。なぜなら、両側に最も望まれていたものを提供したからだ。 Beff Jezos（e/acc の最高責任者）は、最終的にこれは良く、かなりバランスが取れていると述べている。MIRI の Rob Bensinger も同様にこの映画を強く推奨している。David Krueger は良い作品であり、全員がこれを見ればさらに良くなると言っている。Riley Goodside もこれを承認している。タイラー・コーエンは、予想よりも良く、賢い作品だと見なし、多様な視点から知的な人々が語れる場を提供していると評価した。 そう、両方の要望に同時に答えることができる。なぜなら、彼らは異なるものを望んでいる一方で、多くの真実については合意しているからだ。これは説教調の演説よりもはるかに影響力がある。 私たちはスピン（偏向）に満ちた世界に住んでいます。ダニエル・ローハーはそんなスピンに満ちた世界をナビゲートしようとしていますが、彼の真摯さが光り、誰をインタビューするかという点で優れた選択をしています。彼の前で話している人に左右されることはバグではなく機能であり、彼はそれを隠そうとはしていないからです。人々が明らかにスピンを試みている場所や、愚かな点を述べている場所もありますが、私は彼がどちらがどちらなのかを私たちに教えようとしなかったことを評価しています。 MIRI は、映画の文脈における彼らの完全な立場を説明する Twitter の FAQ スレッドと完全な Web サイトの FAQ を提供しています。その立場とは、「これは過大評価ではない」「このまま構築し続ければ全員が殺されることになる」「現在の安全技術はそれに対処できない」そして「国際条約を求める」というものです。 これがプロパガンダである、あるいは一方通行であると考える人々はいるでしょうか？もちろんいます。ただし、どの角度から支持しようとしているのかについては一致していません。 赤ちゃんは素晴らしい 全体を通じた個人的な旅路は、ダニエルが息子を持つことに関するものです。映画は非常に明確な立場をとっています。それは、結婚し家族を持ち、赤ちゃんや子供を育てることはすべて非常に素晴らしいという、より頻繁に見られるべき立場です。 これが彼がインタビューする人々に最初に尋ねる質問になります。「現在の AI の状況下で、あなたは今日子供を持つでしょうか？」 AI が人類を皆殺しにするかもしれないと懸念する人々の多くは「いいえ」と答えます。彼らは他の人を説得しようとはしませんが、エライザー・ユドフスキー氏はこのタイムラインでは行わないと言っており、ダリオ・アモダイ氏も「本来やるべきことをすればよい」と述べています。また、「まずはこの AI の状況に対処してから考えよう」といった意見も見られます。 一方、基本的にすべての楽観主義者は、今日こそ子供を産むのに歴史上最高の日であり、子供として生まれるのも最高だと言っています。未来はあなたの想像を超えたものになるでしょう。 この問題については、私は楽観主義者の側にいます。存在リスクを考慮すれば「今日が子供を産むに最適な日」とまでは言えないかもしれませんが、それ以外のことなら間違いなく素晴らしい時代です。そして、その子供たちにとっての upside potential（将来の可能性）はかつてないほど高まっています。最も重要なのは、子供を産んだとしても人類が存続できなくなったからといって、あなたが何かを悪化させたわけではないという点です。子供たちは本質的に価値ある存在であり、与えられる時間がある限りにおいて、存在しなかった場合よりも遥かに良い状態にあります。 人々は AI が人類を皆殺しにするのを心配している 最初のインタビュー群は危険性を概説しています。 これは技術的な映画ではありません。一般の人間にも響くような説明がなされています。 ジェフリー・ラディッシュ氏が、道具的収束（instrumental convergence）の基本概念を説明します。これは、目標を持つならその達成には権力が必要であり、死んでしまってはコーヒーも持ってきてもらえないという考え方です。AI が私たちを憎むからではなく、私たちがアリを見るように AI が見るからです。もしアリの巣の上に高速道路を作りたいと思うなら、それはアリの問題だと彼は言います。 コナー・リーヒ氏は、私たちよりも賢く能力の高いものを創り出すことは安全ではないと語り、そのためにさらなる正当化は必要ないと強調します。エライザー・ユドコフスキー氏は、自分たちを気にせず他のことを望む、はるかに賢い存在と同じ惑星で暮らすなら、自分の運命に希望を持つべきではないと言います。アジェヤ・コートラ氏も追加の点を説明し、その他にも多くの発言があります。 それ以外のこととして、『アライメント問題』についての議論は一切なく、記憶している限りその単語が映画の中で使われたこともありません。 これらの主張がどれほど響いているのかを判断するのは私には難しいです。私は明らかにターゲットオーディエンスではありません。全体的に彼らは公平に取り扱われ、その主張は強く、また決着をつけるのに十分十分なものでした。はい、もちろん私たちはここで多くの問題を抱えています。 パニックになる ダニエルの反応は、当然かつ正しく、パニックになることです。 そして彼は非常に明確に尋ねます。これについて楽観的である方法はありますか？自分自身を納得させてすべてがうまくいくと信じられるでしょうか？ このように明確に表現されていることにどれほど感謝したか、適切に伝えるのは難しいです。 2 つ目のセクションは真実を求めようとするものではなく、根本的な真実にかかわらず、パニックを起こさないようにしようとするものです。 他の人々は AI によって全員が殺されることを心配していない 技術楽観主義者や加速主義者は喜んでこれに応じます。 彼らはポジティブな雰囲気と、テクノロジーがすべての問題を解決してくれるという約束を携えて現れます。ピーター・ディアマンディスはまず、歴史を通じてテクノロジーが人々に素晴らしい成果をもたらしてきた点を指摘します。ベフ・ジェゾスはさらにその先があり、未来は素晴らしいものになると約束します。人々は常に新しい技術に恐怖を抱くものですが、それは自然な一部であり、その恐れは有用なものになり得ると説きます。 これがほぼすべての議論です。テクノロジーは以前も良かったのだから、今も良いのだという論理です。 このグループの間では、雰囲気が非常に良好です。 注意深く観察する人は、これがあまり立派な議論ではないことに気づくでしょう。確かに、人々が過去に心配し、世の終わりだと考えていたというベイズ的証拠はありますが、それが唯一の根拠であるなら、それは極めて悪い兆候です。人類がテクノロジーや道具を使って生活をより良くしてきた事実が、十分に洗練された人工知能を創り出すことが安全であり、うまくいく可能性が高いことを意味するわけではありません。また、存在リスクや「破滅」に関する主張に対する回答にもなっていません。 確かに、最初の心配している人々のグループに戻ってみると、彼ら、特にトリスラン・ハリスだが他の人も含めて、約束やメリットは現実のものであり、技術は人間にとって素晴らしいものであると容易に認めています。問題は、それが私たちが皆死ぬわけではないという意味でもなく、存在リスクが存在しないという理由を提供するものでもないことです。 私たちは実際に、AGI を生き延びられるかどうかではなく、AGI なしで生き残れるかどうかが問題だと述べる人をそのままの言葉で見ることができます。彼はまっすぐな顔で、潜在的な小惑星衝突さえも直接引用しています。 ダニエラ・アモデイ（ダリオの姉妹であり、Anthropic の社長）がこのセクションに登場していることに注意してください。彼女は最初のセクションには登場していません。彼女は AI の存在リスクを積極的に否定するわけではありませんが、ほぼ完全に upside potential に焦点を当てています。非常に興味深いです。 ロビン・ハンソンが指摘するように、それは存在リスクが unlikely であるためのより良い議論が存在しないという意味ではありません。しかし、そのような議論を持ち出した人は誰もいないようです。 根拠が必要ですか？バイブスがあれば十分です。 アエラは、楽観派たちが何らの議論も提示しなかったことに怒って映画館を出ていった。一方私はその点については怒っていない。なぜなら彼らは真剣に議論を提示しようとしているわけではなく、無根拠な提案を示すこと自体が、この事実についての重要な情報を提供しているからだ。そのような人々が公平だと認める方法でこれを行うことで、外部の人間は「何も心配する必要はない」側に良い議論が存在しないため議論など存在しないことを知ることができる。ただし、MIRI が信じているよりも成功する可能性が高いという点については、確かに良い議論が存在する。 ディープフェイクタウンとボットアポカリプスの到来 次に、第三のグループによるインタビューや懸念が紹介される。ここではエミリー・ベンダー（Emily Bender）やティムニット・ゲブル（Timnit Gebru）らを迎え入れ、ディープフェイク動画、不平等、権力、水の使用量など、その他あらゆる悪魔的な要素について語り始める。 これにより、具体的な主張を掘り下げることもなく、「おっと大変だ」という雰囲気が再び漂うことになる。ここで提起されている懸念の中には実際に存在するものもあれば、ゼロではないが本質的には偽物であるものもある。賢明にも、偽物のものは重点的に扱われていない。主な焦点はディープフェイクであり、現時点では封じ込められているものの確かに実在し問題となっていること、そして不平等と人間が職を維持できなくなるという見通しだ。すでに実際の存在リスクについては取り上げたので、ここではこれらを扱うことを許容する。あなた方も基礎的な事項はカバーしておく必要があるのだ。 AI 競争の停止と狭い道 議論は現在、AI ラスのダイナミクスへと移ります。私たちは、可能な限り速くより能力の高い AI を構築するために競争することは悪いことだと指摘する様々な人々を見ます。コンナー・リーヒが述べているように、AGI（汎用人工知能）を同時に目指す複数のプロジェクトが競い合うことは最悪の状況であり、まさにその状況に私たちは今直面しています。 トリスタン・ハリスは、この状況を二つの危険の間を航行する必要があると枠組み化します。 もし私たちが完全に『解放』すれば、それは間違いなく破滅的な結末を迎えます。その中心的理由として誤用が挙げられます。私は同意しますが、映画はこの点を十分に正当化しておらず、もし誰もが十分に高度な AI を利用可能にしているなら、リソースを巡る競争や生活の運営を AI に任せる必要があるため、実質的に AI が支配することになると指摘すべきだったと考えます。 一方、『停止』すれば、AI の約束を永遠に見失うことになります。デミス・ハサビス氏を含む多くの人が指摘するように、これは中国を含めすべての関係者の合意が得られなければ機能しません。しかし、それはそれほど容易なことではありません。そのような合意が可能であるという事実にさらに言及できなかったことに失望しましたが、この点を本稿の範囲外に置くのは妥当だと感じました。 代わりに、映画は合理的にも述べているように、これらの二つの選択肢の間を狭い道で航行する必要があります。全速力で進むことも、完全に停止することもできません。 私が論理の弱さを感じる場所の一つが『安全性が最も低いラボが勝つ』という主張です。これは、安全性と有用性がトレードオフの関係にある（アライメント・タックスが大きくて正である、つまりコストがかかるという仮定で、現状ではそうではない）こと、そして参加者がほぼ同等であることの両方を前提としているためです。 CEO は自らの役割を知っている これはすべて「5 人の男」によって運営されているため、彼は次に OpenAI、Anthropic、Google、xAI、Meta の 5 つの CEO に話を聞きに行く。 その結果は印象的であり、ある意味で完璧だった。 OpenAI のサム・アルトマンは、物静かで友好的だが重苦しい様子で現れた。互いに家族を始めたことを祝い合い、アルトマンはこの状況全体が恐ろしいものであると認めた。彼が AI を安全にする方法についての答えは、反復的な導入とテストであり、OpenAI がそれを安全にできる理由は自社のリードを生かせるからだと述べた。当時でも、アルトマンが Anthropic に対するリードを主張することは公平ではなかったと思うが、もし彼が新事実を伝えるつもりでなければ、アルトマンはこれ以上ないほど好印象だった。 ダリオ・アモダイもいつもの自分自身で現れた。彼は状況を認め、調整と安全性のために政府の支援が必要だと指摘した。 デミス・ハサビスは、協調には国際的な取り組みが必要であると指摘し、お気に入りの AI のメリットの一部を強調した。 イーロン・マスクは参加すると述べたが、あまりにも多忙になり、何も残さずに去っていった。 マーク・ザッカーバーグは一切参加することを拒否した。 彼は CEO を厳しく追及したのか？いいえ。CEO を厳しく追及しなかったのだ。 質問はすべて易しいものではなかったが、彼は友好的な姿勢を保ち、明らかに尋ねる必要のある質問を投げかけた。このような状況においては、これが正しいアプローチだったと思う。なぜなら、私が聞きたいような「鋭い」質問をするのに必要な能力が彼にはないからだ。話し続けさせ、敵対的な態度ではなく、できるだけ真剣なモードに彼らを導くことだ。 行動への呼びかけ 私は、このドキュメンタリーにおける偽の結末（実在レベルとメタレベルの両方）を評価しました。その偽りの度合いがどこまでだったのか、あるいはそこで物語を終了させることを彼らが本当に検討していたのかどうか、私には興味があります。 本当の結末は、「希望の大義」という標準的なパターンです。議員に働きかけ、国際条約を締結してこの調整された未来を解決し、世界を救うことこそが私たちの未来を決めるのだという、多くのドキュメンタリーで繰り返されるスローガンで終わります。この場合もまた、確かに世界は本当に救済を必要としています。行動への呼びかけリンクが存在します。 ここではしばしば眉をひそめる反応が見られます。私も同様の反応を示す人を非難するつもりはありません。 しかし、このケースにおいては、「未来は未確定であり、人類は『すべてを破壊して文明を崩壊させるか、あるいは悪の勢力に権限を委ねるか』という道以外の別の道を選べる」というまさにその命題自体が非常に論争的であるため、そのような行動を起こすべきではないと主張する人がいます。 例えば、このセクションに対する反応としてタイラー・カウエンは、「現実には、善悪の別なく、最終決定は引き続き国家安全保障エスタブリッシュメントによって行われる」と明確に述べており、これは彼らが過去にも同様の事項について最終決定を行っていたか、あるいは将来もそうするだろうという含意を含んでいます。さらに、そのような人々がどのような決定を下すかに影響を与えることはできず、また彼らに指示を出すこともできず、国際協力に参加することもできないという主張も含まれています。 しかし、正しい返答は、そのような態度では成り立ちません。

映画レビュー：『The AI Doc』

背景や根拠まで確認しますか？

このニュースを、実務の判断につなげる

調べる

選ぶ

サイト