合理的人工知能の哲学的な難題
本文の状態
日本語全文を表示中
詳細モードで約7分の本文を読めます。
同じ出来事の情報源
この情報源を基点に整理
MIT ML News
MITのレスリー・カールブラン教授は、学生に対し合理的AIとコンピュータサイエンス、哲学の関係を考察する授業を提供している。
Source Article
元記事を日本語で読む
本文に関係しない購読案内、埋め込み通知、サイト内プロモーションは除いています。
人工システムはどこまで合理的でありうるのか？
MITの新しい授業「6.S044/24.S00（AIと合理性）」は、この問いに答えを出そうとするものではない。その代わりに、学生たちにAI研究というレンズを通してこの問題や他の哲学的課題を探究するよう挑戦を促す。次世代の学者たちにとって、合理性や主体性の概念は、特に人間が自らの認知的限界や、何が合理的か否かについての制約された主観的な見方に影響を受ける場合に、AIの意思決定において不可欠なものとなる可能性がある。
この探求は、コンピュータサイエンスと哲学の深い関係に根ざしている。この二つの学問は長きにわたり、合理的な信念を形成すること、経験から学ぶこと、そして自らの目標を追求する上で合理的な意思決定をすることとは何かを形式化する上で協力してきた。
「コンピュータサイエンスと哲学はかなり離れているように思えるかもしれませんが、常に交差してきました。哲学の技術的な部分は、特に初期のAIと、本当に重なっているのです」と、授業の講師でありMITのパナソニック記念計算機科学・工学教授であるレスリー・ケイブリングは言う。彼女は、コンピュータ科学者であり哲学者でもあったアラン・チューリングを思い起こさせる。ケイブリング自身、スタンフォード大学で哲学の学士号を取得しており、当時はコンピュータサイエンスを専攻として選べなかったと付け加える。
言語学・哲学学科の教授であり、MITシュワルツマン・コンピューティング・カレッジと電気工学・計算機科学科（EECS）の兼務ポストを持つブライアン・ヘッデンは、ケイブリングと共にこの授業を教えているが、この二つの学問は人々が想像する以上に一致していると指摘し、「違いは重点の置き方と視点にある」と述べている。
さらなる理論的思考のための道具
2025年秋に初めて開講された「AIと合理性」は、ケイブリングとヘッデンが、MITシュワルツマン・コンピューティング・カレッジの横断的イニシアチブ「Common Ground for Computing Education」の一環として創設したものだ。このイニシアチブは、複数の学科を結集し、コンピューティングと他の学問を融合した新しい授業の開発・実施や新プログラムの立ち上げを行う。
20名以上の学生が登録している「AIと合理性」は、哲学に基礎を置くCommon Ground授業のうちの一つであり、もう一つは「6.C40/24.C40（コンピューティングの倫理）」である。
「コンピューティングの倫理」が急速に進歩するテクノロジーの社会的影響に関する懸念を探るのに対し、「AIと合理性」は、いくつかの構成要素——合理的な主体性の本質、完全に自律的で知的なエージェントという概念、そしてこれらのシステムへの信念や欲望の帰属——を考慮することによって、議論のある合理性の定義を検討する。
AIはその実装において非常に広範であり、各ユースケースが異なる問題を提起するため、ケイブリングとヘッデンは、コンピュータサイエンスと哲学という二つの視点の間で実りある議論と関わりを提供できるトピックをブレインストーミングした。
「機械学習やロボティクスを学ぶ学生と一緒に働くとき、彼らが少し立ち止まって、自分たちが置いている前提を検証することが重要です」とケイブリングは言う。「哲学的な視点から物事を考えることは、人々が一歩引いて、自分の仕事を実際の文脈にどのように位置づけるかをよりよく理解するのに役立ちます。」
両講師とも、これは合理的なエージェントを設計することの意味についての問いに具体的な答えを提供する授業ではないと強調する。
ヘッデンはこう言う。「私はこの授業を彼らの基礎を築くものと見ています。私たちは、学び、暗記し、そして適用すべき教義の体系を与えているのではありません。彼らが研究であれ産業であれ政府であれ、選んだキャリアに進むとき、物事を批判的に考えるための道具を装備させているのです。」
AIの急速な進歩は、学術界にも新たな一連の課題を突きつけている。学生が5年後に何を知る必要があるかを予測することは、ケイブリングにとって不可能な任務だ。「私たちがすべきことは、より高いレベル——思考の習慣、考え方——で彼らに道具を与えることです。それは、私たちが今本当に予測できない事柄に取り組むのを助けてくれるでしょう」と彼女は言う。
学問の融合と前提への問い
これまでのところ、この授業は幅広い学問分野からの学生を惹きつけている——コンピューティングにしっかりと根ざした学生から、AIが自分の研究分野とどのように交差するかを探求することに興味を持つ学生まで。
学期を通しての読書と議論の中で、学生たちは合理性の異なる定義と、それらの定義が自分たちの分野の前提にどう反論するかにもがいた。
この授業について驚いた点について、EECSの4年生であるアマンダ・パレデス・リオブーはこう語る。「私たちは、数学と論理がこの黄金基準または真理であるように教えられてきました。この授業は、人間がこれらの数学的・論理的枠組みと矛盾して行動する様々な例を示してくれました。人間が非合理的なのか？私たちが設計した機械学習システムが非合理的なのか？数学と論理そのものが非合理的なのか？という、まさに『パンドラの箱』を開けてしまったのです。」
脳・認知科学科の博士課程学生であるジュニア・オコロアフォーは、授業の挑戦と、合理的なエージェントの定義が学問分野によってどのように変わりうるかに感謝の意を表した。「各分野が合理性によって意味することを形式的な枠組みで表現することは、どの前提が分野を超えて共有されるべきで、どの前提が異なっていたのかを明確にします。」
すべてのCommon Groundの取り組みと同様に、この授業の共同教授による協力的な構造は、学生と講師の双方に、異なる視点をリアルタイムで聞く機会を与えた。
パレデス・リオブーにとって、これは3つ目のCommon Ground授業である。「私は本当に学際的な側面が好きです。これらの授業は、分野を横断する必要があるという事実から、理論と応用がうまく混ざり合っているようにいつも感じられます。」
オコロアフォーによれば、ケイブリングとヘッデンは分野間の明らかな相乗効果を示しており、彼らがクラスと共に参加し学んでいるように感じられたという。コンピュータサイエンスと哲学がどのように互いに情報を提供し合えるかは、彼がそれらの共通性と、交差する問題に関する貴重な視点を理解することを可能にした。
彼は付け加える。「哲学にはまた、あなたを驚かせる方法があるのです。」
原文を表示
Watch Video Amanda Diehl | MIT Schwarzman College of Computing Publication Date: January 30, 2026 Press Inquiries Press Contact:
Close 
Caption: Co-instructor Leslie Kaelbling, the Panasonic Professor of Computer Science and Engineering, helps students examine the deep relationship between computer science and philosophy. Credits: Photo: Hanley Valentin 
Caption: Brian Hedden, a professor in the Department of Linguistics and Philosophy and who holds an MIT Schwarzman College of Computing shared position with the Department of EECS, co-teaches the class with Kaelbling. Credits: Photo: Hanley Valentin Previous image Next image
To what extent can an artificial system be rational?
A new MIT course, 6.S044/24.S00 (AI and Rationality), doesn’t seek to answer this question. Instead, it challenges students to explore this and other philosophical problems through the lens of AI research. For the next generation of scholars, concepts of rationality and agency could prove integral in AI decision-making, especially when influenced by how humans understand their own cognitive limits and their constrained, subjective views of what is or isn’t rational.
This inquiry is rooted in a deep relationship between computer science and philosophy, which have long collaborated in formalizing what it is to form rational beliefs, learn from experience, and make rational decisions in pursuit of one's goals.
“You’d imagine computer science and philosophy are pretty far apart, but they’ve always intersected. The technical parts of philosophy really overlap with AI, especially early AI,” says course instructor Leslie Kaelbling, the Panasonic Professor of Computer Science and Engineering at MIT, calling to mind Alan Turing, who was both a computer scientist and a philosopher. Kaelbling herself holds an undergraduate degree in philosophy from Stanford University, noting that computer science wasn’t available as a major at the time.
Brian Hedden, a professor in the Department of Linguistics and Philosophy, holding an MIT Schwarzman College of Computing shared position with the Department of Electrical Engineering and Computer Science (EECS), who teaches the class with Kaelbling, notes that the two disciplines are more aligned than people might imagine, adding that the “differences are in emphasis and perspective.”
Tools for further theoretical thinking
Offered for the first time in fall 2025, Kaelbling and Hedden created AI and Rationality as part of the Common Ground for Computing Education, a cross-cutting initiative of the MIT Schwarzman College of Computing that brings multiple departments together to develop and teach new courses and launch new programs that blend computing with other disciplines.
With over two dozen students registered, AI and Rationality is one of two Common Ground classes with a foundation in philosophy, the other being 6.C40/24.C40 (Ethics of Computing).
While Ethics of Computing explores concerns about the societal impacts of rapidly advancing technology, AI and Rationality examines the disputed definition of rationality by considering several components: the nature of rational agency, the concept of a fully autonomous and intelligent agent, and the ascription of beliefs and desires onto these systems.
Because AI is extremely broad in its implementation and each use case raises different issues, Kaelbling and Hedden brainstormed topics that could provide fruitful discussion and engagement between the two perspectives of computer science and philosophy.
“It's important when I work with students studying machine learning or robotics that they step back a bit and examine the assumptions they’re making,” Kaelbling says. “Thinking about things from a philosophical perspective helps people back up and understand better how to situate their work in actual context.”
Both instructors stress that this isn’t a course that provides concrete answers to questions on what it means to engineer a rational agent.
Hedden says, “I see the course as building their foundations. We’re not giving them a body of doctrine to learn and memorize and then apply. We’re equipping them with tools to think about things in a critical way as they go out into their chosen careers, whether they’re in research or industry or government.”
The rapid progress of AI also presents a new set of challenges in academia. Predicting what students may need to know five years from now is something Kaelbling sees as an impossible task. “What we need to do is give them the tools at a higher level — the habits of mind, the ways of thinking — that will help them approach the stuff that we really can’t anticipate right now,” she says.
Blending disciplines and questioning assumptions
So far, the class has drawn students from a wide range of disciplines — from those firmly grounded in computing to others interested in exploring how AI intersects with their own fields of study.
Throughout the semester’s reading and discussions, students grappled with different definitions of rationality and how they pushed back against assumptions in their fields.
On what surprised her about the course, Amanda Paredes Rioboo, a senior in EECS, says, “We’re kind of taught that math and logic are this golden standard or truth. This class showed us a variety of examples that humans act inconsistently with these mathematical and logical frameworks. We opened up this whole can of worms as to whether, is it humans that are irrational? Is it the machine learning systems that we designed that are irrational? Is it math and logic itself?”
Junior Okoroafor, a PhD student in the Department of Brain and Cognitive Sciences, was appreciative of the class’s challenges and the ways in which the definition of a rational agent could change depending on the discipline. “Representing what each field means by rationality in a formal framework, makes it clear exactly which assumptions are to be shared, and which were different, across fields.”
The co-teaching, collaborative structure of the course, as with all Common Ground endeavors, gave students and the instructors opportunities to hear different perspectives in real-time.
For Paredes Rioboo, this is her third Common Ground course. She says, “I really like the interdisciplinary aspect. They’ve always felt like a nice mix of theoretical and applied from the fact that they need to cut across fields.”
According to Okoroafor, Kaelbling and Hedden demonstrated an obvious synergy between fields, saying that it felt as if they were engaging and learning along with the class. How computer science and philosophy can be used to inform each other allowed him to understand their commonality and invaluable perspectives on intersecting issues.
He adds, “philosophy also has a way of surprising you.”
Share this news article on:
Common Ground for Computing Education
Department of Electrical Engineering and Computer Science (EECS)
Department of Philosophy
School of Humanities, Arts, and Social Sciences
MIT Schwarzman College of Computing
Classes and programs
Artificial intelligence
Machine learning
Technology and society
Computer science and technology
Education, teaching, academics
Electrical engineering and computer science (EECS)
Computer Science and Artificial Intelligence Laboratory (CSAIL)
School of Engineering
MIT Schwarzman College of Computing
School of Humanities Arts and Social Sciences
Related Articles
Bridging philosophy and AI to explore computing ethics
関連記事
今日のまとめ
AIデイリーブリーフで今日の重要ニュースをまとめ読み