合理的人工知能の哲学的な難題

人工システムはどこまで合理的でありうるのか？ MITの新しい授業「6.S044/24.S00（AIと合理性）」は、この問いに答えを出そうとするものではない。その代わりに、学生たちにAI研究というレンズを通してこの問題や他の哲学的課題を探究するよう挑戦を促す。次世代の学者たちにとって、合理性や主体性の概念は、特に人間が自らの認知的限界や、何が合理的か否かについての制約された主観的な見方に影響を受ける場合に、AIの意思決定において不可欠なものとなる可能性がある。 この探求は、コンピュータサイエンスと哲学の深い関係に根ざしている。この二つの学問は長きにわたり、合理的な信念を形成すること、経験から学ぶこと、そして自らの目標を追求する上で合理的な意思決定をすることとは何かを形式化する上で協力してきた。 「コンピュータサイエンスと哲学はかなり離れているように思えるかもしれませんが、常に交差してきました。哲学の技術的な部分は、特に初期のAIと、本当に重なっているのです」と、授業の講師でありMITのパナソニック記念計算機科学・工学教授であるレスリー・ケイブリングは言う。彼女は、コンピュータ科学者であり哲学者でもあったアラン・チューリングを思い起こさせる。ケイブリング自身、スタンフォード大学で哲学の学士号を取得しており、当時はコンピュータサイエンスを専攻として選べなかったと付け加える。 言語学・哲学学科の教授であり、MITシュワルツマン・コンピューティング・カレッジと電気工学・計算機科学科（EECS）の兼務ポストを持つブライアン・ヘッデンは、ケイブリングと共にこの授業を教えているが、この二つの学問は人々が想像する以上に一致していると指摘し、「違いは重点の置き方と視点にある」と述べている。 さらなる理論的思考のための道具 2025年秋に初めて開講された「AIと合理性」は、ケイブリングとヘッデンが、MITシュワルツマン・コンピューティング・カレッジの横断的イニシアチブ「Common Ground for Computing Education」の一環として創設したものだ。このイニシアチブは、複数の学科を結集し、コンピューティングと他の学問を融合した新しい授業の開発・実施や新プログラムの立ち上げを行う。 20名以上の学生が登録している「AIと合理性」は、哲学に基礎を置くCommon Ground授業のうちの一つであり、もう一つは「6.C40/24.C40（コンピューティングの倫理）」である。 「コンピューティングの倫理」が急速に進歩するテクノロジーの社会的影響に関する懸念を探るのに対し、「AIと合理性」は、いくつかの構成要素——合理的な主体性の本質、完全に自律的で知的なエージェントという概念、そしてこれらのシステムへの信念や欲望の帰属——を考慮することによって、議論のある合理性の定義を検討する。 AIはその実装において非常に広範であり、各ユースケースが異なる問題を提起するため、ケイブリングとヘッデンは、コンピュータサイエンスと哲学という二つの視点の間で実りある議論と関わりを提供できるトピックをブレインストーミングした。 「機械学習やロボティクスを学ぶ学生と一緒に働くとき、彼らが少し立ち止まって、自分たちが置いている前提を検証することが重要です」とケイブリングは言う。「哲学的な視点から物事を考えることは、人々が一歩引いて、自分の仕事を実際の文脈にどのように位置づけるかをよりよく理解するのに役立ちます。」 両講師とも、これは合理的なエージェントを設計することの意味についての問いに具体的な答えを提供する授業ではないと強調する。 ヘッデンはこう言う。「私はこの授業を彼らの基礎を築くものと見ています。私たちは、学び、暗記し、そして適用すべき教義の体系を与えているのではありません。彼らが研究であれ産業であれ政府であれ、選んだキャリアに進むとき、物事を批判的に考えるための道具を装備させているのです。」 AIの急速な進歩は、学術界にも新たな一連の課題を突きつけている。学生が5年後に何を知る必要があるかを予測することは、ケイブリングにとって不可能な任務だ。「私たちがすべきことは、より高いレベル——思考の習慣、考え方——で彼らに道具を与えることです。それは、私たちが今本当に予測できない事柄に取り組むのを助けてくれるでしょう」と彼女は言う。 学問の融合と前提への問い これまでのところ、この授業は幅広い学問分野からの学生を惹きつけている——コンピューティングにしっかりと根ざした学生から、AIが自分の研究分野とどのように交差するかを探求することに興味を持つ学生まで。 学期を通しての読書と議論の中で、学生たちは合理性の異なる定義と、それらの定義が自分たちの分野の前提にどう反論するかにもがいた。 この授業について驚いた点について、EECSの4年生であるアマンダ・パレデス・リオブーはこう語る。「私たちは、数学と論理がこの黄金基準または真理であるように教えられてきました。この授業は、人間がこれらの数学的・論理的枠組みと矛盾して行動する様々な例を示してくれました。人間が非合理的なのか？私たちが設計した機械学習システムが非合理的なのか？数学と論理そのものが非合理的なのか？という、まさに『パンドラの箱』を開けてしまったのです。」 脳・認知科学科の博士課程学生であるジュニア・オコロアフォーは、授業の挑戦と、合理的なエージェントの定義が学問分野によってどのように変わりうるかに感謝の意を表した。「各分野が合理性によって意味することを形式的な枠組みで表現することは、どの前提が分野を超えて共有されるべきで、どの前提が異なっていたのかを明確にします。」 すべてのCommon Groundの取り組みと同様に、この授業の共同教授による協力的な構造は、学生と講師の双方に、異なる視点をリアルタイムで聞く機会を与えた。 パレデス・リオブーにとって、これは3つ目のCommon Ground授業である。「私は本当に学際的な側面が好きです。これらの授業は、分野を横断する必要があるという事実から、理論と応用がうまく混ざり合っているようにいつも感じられます。」 オコロアフォーによれば、ケイブリングとヘッデンは分野間の明らかな相乗効果を示しており、彼らがクラスと共に参加し学んでいるように感じられたという。コンピュータサイエンスと哲学がどのように互いに情報を提供し合えるかは、彼がそれらの共通性と、交差する問題に関する貴重な視点を理解することを可能にした。 彼は付け加える。「哲学にはまた、あなたを驚かせる方法があるのです。」

合理的人工知能の哲学的な難題

背景や根拠まで確認しますか？

関連記事

調べる

選ぶ

サイト