Fact checking Moravec's paradox｜モラベックのパラドックスの事実確認

私は、一般的な技術の視点から AI の進展を分析する YouTube チャンネルを立ち上げました。このエッセイは、私が最近行った動画に基づいています。その動画では、人間にとって難しいことは AI にとっては簡単で、その逆もまた真なりという、 endlessly repeated（繰り返し繰り返される）格言であるモラベックのパラドックスについて深く掘り下げてみました。 私が発見したのは以下の通りです： モラベックのパラドックスは、実証的に検証されたことがありません。（私がかつて知り、尊敬する先駆者を含む多くの AI 研究者がこれを事実として繰り返し述べていますが、だからといって彼らの主張をそのまま信じるわけではありません！） これは実際には、AI コミュニティが何を仕事として価値あると見なしているかについての声明に過ぎません。どの問題が AI にとって簡単で、どの問題が難しいかを予測する力は何も持っていません。 これには、私が非常に疑わしいと感じる進化的説明が付随しています。（AI 研究者には、神経科学や進化生物学の関連する背景知識を持たずに人間の脳についてでたらめなことを作り出す歴史があります。） モラベックのパラドックスに似た思考は、緊迫した超知能推論に関する過剰な警戒心（アラリズム）と、ロボット工学などの分野における誤った安心感の両方をもたらしました。 AI の進展に適応するために必要なのは、能力の飛躍を予測することではありません。新しい能力が普及するには長い時間がかかるため、それに応じて反応するための十分な時間が与えられます。しかし、私たちはその時間をしばしば浪費し、その後パニックに陥ってしまいます。 完全な議論はここをご覧ください、または以下をお読みください。 毎週のように AI の進歩に関する新たな主張が飛び交っています。次に何が来るのか、私たちはどうやって知ることができるのでしょうか？AI が犯罪を予測できるでしょうか？受賞歴のある小説を書くことができるでしょうか？重要なインフラにハッキングするでしょうか？ついに私たちの家に洗濯物をたたんで食器洗い機に食器を積むロボットがやってくるようになるのでしょうか？ AI の進歩はあなたの仕事にとって何を意味するのでしょうか？社会の構造にとっては何を意味するのでしょうか。この不確実性すべてに対処するのは難しいものです。もし、どの新しい AI 機能が間もなく開発され、どの機能が今後長期間にわたって困難なままなのかを予測する方法があればよいのにと思います。 歴史的に見れば、AI 研究者による AI の能力における進歩に関する予測は非常に悪かったのです。AI にどのようなタスクが簡単で、どのようなタスクが難しいのかを記述する原則は、実はほとんど存在しません。 しかし、一つあります——モラベックのパラドックスです。これは、数学や論理など人間にとって難しいことをコンピュータに習得させるのは比較的容易である一方、世界を見たり歩いたりするなど人間にとって簡単なことを習得させるのは困難であるという観察結果を指しています。 これは、ロボット研究者であり現在もその地位にあるハンス・モラベックが 1988 年に著した『Mind Children』という書籍に由来します。彼はこう記述しました： 知能テストやチェスでの成人レベルの性能をコンピュータに示させることは比較的容易ですが、知覚や移動能力においては 1 歳児のスキルを与えることは困難であり、不可能に近いことです。 人工知能の初期において、研究者たちはチェスやその他の推論タスクに焦点を当てていました。これらは最も困難な課題の一つであり、人間を他と区別する独自の能力だと考えられていたからです。しかし皮肉なことに、もし人間の大棋士を打ち負かせるロボットを作りたいのであれば、どの手を打つかを考えることは実は簡単な部分なのです。実際にチェス盤上でその手を物理的に実行することが難しい部分です。これは今日ではよく知られている事実であり、モラベックのパラドックスは直感的に非常に納得できるように思えます。 もしモラベックのパラドックスが真実であるならば、その帰結は驚くべきものになります。次にどのような人工知能の能力が構築される可能性があるかを理解したいのであれば、人間にとってそれがどれほど困難かを見ればよいのです。つまり、折りたたみ作業よりも先に科学的研究が自動化され、といった具合です。 しかしここで重要なのは、モラベックのパラドックスは一度も事実確認されたことがないということです。これは、数十万回の再生数を誇る動画や TED 講演でさえもこれを事実として繰り返しているにもかかわらずです。私がいわゆるパラドックスの背後にある証拠を掘り下げてみると、驚くべき発見がありました。 本稿では、このパラドックスの理論と根拠がなぜ脆いものなのかについて議論します。その後、人工知能にとって何が容易で何が困難かという単純化された予測が、どのように人工知能研究者や技術リーダーを誤解させてきたのかを説明します。それは一方では過度な警戒心を招き、他方では誤った安心感をもたらしました。（今ここに新たなパラドックスがあります。）最後に、モラベックのパラドックスに頼ることができないのであれば、私たちはどのように人工知能の進展とその影響に備えるべきかという問いにお答えします。 通常技術の視点から AI の発展を分析する論文を受け取るには購読してください。 このパラドックスの背後にある証拠は不安定です モラベックのパラドックスを検証するにはどうすればよいでしょうか？既存のタスクの一部をサンプルとして選び、それらが人間にとってどれほど難しく、AI にとってどれほど難しいかを決定し、グラフを作成します。もしこのような結果が見られれば、パラドックスが確認されたことになります。 ![image](https://substackcdn.com/image/fetch/$s_!jE1w!,w_1456,c_limit,f_auto,q_auto:good,fl_progressive:steep/https%3A%2F%2Fsubstack-post-media.s3.amazonaws.com%2Fpublic%2Fimages%2F77d45ce8-30a7-47c0-818d-a94b4b466cc3_1920x1080.png) モラベックのパラドックスを実証的に検証する一つの方法 しかし、ここには問題があります。分析のためにどのタスクのセットを考慮すべきでしょうか？AI 研究者がモラベックのパラドックスは妥当だと主張するとき、彼らは暗黙的に AI 研究コミュニティで「興味深い」と見なされている問題に焦点を限定しています。 人間にとっても AI にとっても容易でありながら、興味のないタスクは無数にあります。画像の明るさはどの程度か？どうやって tic tac toe（三目並べ）をプレイするか？これらの数千ものタスクはプログラマーによって毎日解決され、AI システムに組み込まれていますが、人々がそれらを行う際、特に騒ぎ立てることはありません。 また、人間にとって困難であり、かつ現時点では AI にとっても困難であると考えられている無数のタスクも存在します。ヒット曲の特定、株価の予測、未解読の古代文字の解読、さらにはダイソン球の構築などです。これらの問題はあまりにも困難なため、本質的な進展はほとんど見られませんが、一部の課題にはすぐに誤りだと証明されるような粗末な研究が寄せられることもあります。そのため、こうした問題についてもあまり議論されることがありません。 実際、コンピュータ科学者によって「NP 完全（NP-complete）」であることが証明された問題は数千件あり、これは AI にとって永遠に困難であり続けるという強力な数学的根拠があることを意味します。そのため、真摯な AI 研究者はそれらの問題に取り組む傾向はありません。代わりに、これらの問題のより容易で近似されたバージョンに取り組んでいます。 チャートの残りの 2 つの象限は異なります。左上には、人間にとっては簡単だが現時点では AI にとって困難なサッカーなどのタスクがあり、これらは AI 研究者にとって非常に興味深いものです。なぜなら、AI にこれらのスキルを教えることが可能であることを私たちは知っていますが、まだその達成に至っていないため、AI の進歩を試すための優れた指標となるからです。 右下には、人間にとっては困難だが AI にとっては容易な問題（例えばウェブ検索など）も興味深い対象です。これらの能力は人間の生産性を大幅に向上させる傾向があります。ある意味では「簡単」であるにもかかわらず、業界はウェブ検索やその他のツールが可能な限り効果的・迅速かつ低コストで動作するようにするために多大な投資を行っています。したがって、こうしたタスクに関する研究は AI の進展を牽引する大きな原動力となっています。 ![image](https://substackcdn.com/image/fetch/$s_!5Tvy!,w_1456,c_limit,f_auto,q_auto:good,fl_progressive:steep/https%3A%2F%2Fsubstack-post-media.s3.amazonaws.com%2Fpublic%2Fimages%2F1746607a-20b6-4467-a5dc-d33523358bbd_1920x1080.png) モラベックのパラドックスは、人間と AI の両方にとって難しすぎるか簡単すぎるタスクを「興味がない」として無視することによって生じる選択バイアスである可能性があります。 要するに、考えうるすべてのタスクの空間について考える際、2x2 マトリクスにおける 2 つの象限が面白くないとして基本的に無視されていれば、残されたものが両軸間に強い負の相関を示しているように見えるのは当然のことです。 誤った進化論的議論 明確に述べておくと、AI 研究者たちがモラベックのパラドックスに惹かれる理由は、それが実証的に裏付けられているからではありません。それは直感的に魅力的な物語を伴っているからです。彼の著書の中で、モラベックは以下のような説明を提供しました： 人間の脳の大規模で高度に進化した感覚・運動領域には、世界の性質やその中で生き延びる方法についての10億年にわたる経験が刻まれています。私が考えるに、私たちが推論と呼ぶ意図的なプロセスは、人類の思考における最も薄い皮一枚に過ぎず、それが有効なのは、このはるかに古く、はるかに強力な、しかし通常は無意識の感覚運動的知識によって支えられているからです。私たちは皆、知覚や運動の分野において驚異的なオリンピック選手であり、困難なことを容易に見えるほどに上手です。一方、抽象的思考は新しい技法で、おそらく10万年未満の歴史しかありません。まだそれを完全にマスターしたわけではありません。本質的にそれほど難しいわけではなく、私たちがそれを行うときにそう思えるだけです。 そしてモラベックは、1970年代のSTRIPSのような推論システムを賞賛しますが、彼が「AIにとって推論は容易である」と言う際に念頭に置いているのがまさにこれです。これらは、ブロックを特定の順序で積み重ねるような問題を解決する純粋に記号的なシステムです。 しかし、AI研究者たちは、STRIPSやその他の同様の推論プログラムが全盛期を迎えてから半世紀の間に多くのことを学びました。それらは今日では非常に古風なものに見えます。私たちが学んだのは、記号推論が完全に指定されたルールセットを持つチェスなどの閉鎖的で極めて限定的な領域においてはよく機能するが、現実世界の問題に適用すると脆く、すぐに破綻してしまうということです。 数十年にわたり、IBM のワトソンなど、限定的なデモンストレーションでは卓越していたものの、訓練された内容から逸脱する可能性のある現実世界の環境で使用しようとすると失敗する推論システムの数多くの失敗例がありました。 今日、オープンエンドな設定における推論には常識的知識が必要であることは広く認識されています。しかし、モラベックのパラドックスの信奉者によれば、常識は「人間には簡単だが AI には難しい」領域の一つです。つまり、AI の推論は結局のところ容易ではないのです。 確かに、法律や科学研究のようなオープンエンドな分野において人間の専門家を代替できるような AI による推論は、依然として未解決の問題です。 もしモラベックの進化論的議論がどこで間違っているかを推測するとすれば、それは次のようになります。推論は進化的視点から見れば新しいものかもしれませんが、それは動物の脳が数億年にわたって学習してきたことの上に構築されています。この点についてはモラベックも認めています。しかし、「抽象的な」推論という、これらのインフラストラクチャなしに別個に習得できる独自のスキルが存在するわけではないのかもしれません。 いかに単純なモデルが AI 研究者や技術リーダーを誤解させたか 残念ながら、AI 界隈における「推論はコンピュータにとって容易な別個のスキルである」という誤解も一部原因となって、科学的研究や企業の運営、さらには政府の運営において AI がまもなく人間を超えた能力を発揮するという広範な信念が広がっています。私の経験則では、多くの研究者がチェスや他の閉じたドメインにおける AI の成功を根拠に、こうしたオープンエンドなドメインへと一般化しようとする傾向があります。 そのため、AI 業界のリーダーたちは、データセンターへの兆単位の投資ががんの治療法やその他の下流の恩恵をもたらすと約束しますが、これらの入力がどのようにして望ましい出力に変換されるのかについて考えることを怠っています。また、これは人間科学者を犠牲にして AI 科学への投資を支持したり、ホワイトカラーの大量虐殺に備えるよう政策決定者に警告したりする極端な政策へと彼らを導きます。さらに、政治家や CEO、軍事将軍などのリーダーたちはまもなく重要な意思決定を AI に委ねる以外に選択肢がなくなるという恐怖も生み出します。なぜなら、推論において AI が人間を超えた能力を持つようになるからです。 もしかしたらそうなるかもしれませんが、あるいはそれはすべて神話なのかもしれません。そもそも「推論」と呼ばれる一般的なスキルが存在しない可能性さえあります。 推論の限界は、実際には検証者の不在のようなものなのかもしれません。つまり、AI はチェスにおける推論とは異なり、法律に関する推論においてそれほどまでに上手くなれないのです。なぜなら、AI が数百万の法的議論を記述し、それらがどれが優れていてどれが劣っているかについて即座に正確なフィードバックを得る方法がないからです。これは AI がチェスで上達するのと同じ仕組みとは対照的です。 おそらく、これは現実世界の知識の限界による部分もあるのでしょう。つまり、AI が医療推論において即座に人間を超えた能力を獲得できないのは、世界中で利用可能な医療知識によって制約されているからです。 言い換えれば、人間の推論に制限を課す要因は、AI の推論にも同様に制限を課しています。この見方では、答えは生物学とは何の関係もありません。 私の執筆の多くは、「人間を超えた AI による推論は神話である」という考えに基づいています。もちろん、これを必ずしも受け入れる必要はありません。しかし、差し迫った超知能に関するこれらの予測を耳にする際、AI 分野の人々の多くが共有している背後にあるメンタルモデルを理解しておくことは有益です。また、推論のようなスキルが AI にとって容易か困難かは、閉じたドメインについて話しているのか、開かれたドメインについて話しているのかによって大きく依存する可能性があるという、50〜60 年間の証拠があることを知っておくのは間違いなく有用です。 では、今度は別の側面を見てみましょう。モラベックのパラドックスのために、いくつかの AI の能力は困難であると予測されています。最も頻繁に言及されるのはロボティクスです。 推論におけるブレークスルーによる雇用喪失や安全性への懸念を心配すべきだと人々が言うように、彼らはロボティクスのブレークスルーによる雇用喪失や安全リスクを心配する必要はないと言うでしょう。これは困難な問題なので、改善が一夜にして起こることはありません。 残念ながら、これは誤った安心感です。以前に推論について述べたことが間違っている可能性もあり、明日には画期的な進展があるかもしれません。同様に、これらの研究者がロボット工学について間違っている可能性もあり、明日には画期的な進展があるかもしれません。 実際、AI にとっての別の「難しい問題」があり、かつてはモラベックのパラドックスを説明するために用いられていましたが、現在はもはや言及されません。それはコンピュータビジョン（computer vision）です。それが言及されなくなったのは、2012 年/2013 年頃にディープラーニング（deep learning）により、物体認識などのタスクにおける AI のパフォーマンスが劇的に向上した画期的な進展があったからです。なぜこれほど時間がかかったのかというと、GPU（グラフィックプロセッシングユニット）の使用が必要だったためであり、AI に GPU を使用するという考え方がこの時期に始まったばかりだからです。 ディープラーニングの背後にある科学的アイデアは、モラベックが著書を出版する前である 1980 年代にはほぼ確立されていました。彼は当時まだそれを知らなかっただけです。 結論：もしモラベックのパラドックスでなければ、では何なのか？ モラベックのパラドックスのような経験則がこれほど魅力的に思われるのには理由があります。それは、AI の能力における画期的な進展があれば、雇用喪失などの急速な社会的影響が生じるだろうと私たちが想定しているからです。そのため、事前に準備しておくべきだと考えるのです。 しかし、これは実際には真実ではありません。画期的な技術であっても、成功裏に商業化され、展開されるまでには長い時間がかかります。実際、支援インフラがまだ整っていないため、画期的な技術は特に展開に長い時間を要することがあります。工場で蒸気動力から電力へ移行するのに 40 年かかった理由についての有名なケーススタディがあります。 自動運転車を例にとりましょう。ウェイモ（Waymo）はすでに 15 年以上前に公道でのテストを開始しています。 この技術が将来的に実現可能であり、良い影響と悪い影響の両方をもたらすだろうという疑いの余地はほとんどありませんでした。政策決定者は、損失を被る可能性のある労働者をどのように補償するかについて準備し、検討すべきでした。 しかし代わりに、人々は現在になってようやく、これらの車やトラックがすでに道路上にあり、それらを禁止する政策を推進しているという現実に気づき始めています。世界では毎年 100 万人もの人が自動車事故で亡くなっており、自動運転車はすでに人間ドライバーよりもはるかに安全であることを忘れないでください。 私の AI に関する研究における繰り返されるテーマは、予測の難しさです。AI そのものを予測に利用することと、AI の能力や影響の未来を予測することの両方において困難があります。 予測に頼るのではなく、確実に到来するとわかっている技術に対して、どのように形を作り、適応するかをより上手になるべきです。未来を知りたいという欲求を手放すのは心理的に難しいことですが、この偽りの安心感を手放せば、はるかに回復力のある社会を構築することができます。 他の動画 これまでに3本の長編動画を公開しており、定期的にショート動画も配信しています。こちらから購読してください。 AI 崩壊が起きたらどうなるのか？ なぜ AI に対するマンハッタン計画は意味をなさないのか モラベックのパラドックスの誤解を解く

モラベックのパラドックスの事実確認

背景や根拠まで確認しますか？

関連記事

調べる

選ぶ

サイト