Anthropic共同創設者クリス・オラハが教皇レオ14世の回勅「Magnifica humanitas」に関する見解を表明
Anthropic の共同創設者クリス・オラハは、教皇レオ XIV による AI に関する回勅「Magnifica humanitas」の発表において、AI 開発企業の内部インセンティブと安全確保の必要性を強調し、宗教界との対話を通じた技術の健全な発展を訴えた。
キーポイント
企業内インセンティブの限界と外部批判の重要性
AI ラボは商業的生存や研究競争などの内部圧力に縛られがちであり、真の安全確保にはこれらの制約外から厳しく指摘する「誠実な批評家」の存在が不可欠であると説いた。
宗教界との共通基盤と対話の価値
信仰や文化の異なるリーダーたちとの対話を通じて、AI が「人類のためにうまくいくべきである」という深い合意が存在することを確認し、教皇庁の回勵発表をその一環として高く評価した。
AI システムの本質と工学との違い
AI モデルは橋や飛行機のように設計者がすべての部分を理解・制御できるものではなく、その性質上、技術者以外の視点を含めた広範な議論が必要であると指摘した。
影響分析・編集コメントを表示
影響分析
この発言は、AI 業界のトップリーダーが宗教機関との連携を公に強化し、技術開発における倫理的・社会的責任を外部の道徳的権威と結びつける動きを示しています。特に、企業内部のインセンティブ構造そのものが安全確保の障壁となり得ると自覚的に認めた点は、規制やガバナンスの議論において業界内での重要な転換点となる可能性があります。
編集コメント
AI 業界の創設者が自社の限界を認め、宗教機関との対話を「安全確保」の鍵として位置付けた点は極めて象徴的です。技術開発が単なる競争から社会的合意形成へとシフトする兆候と言えます。
2026 年 5 月 25 日（月曜日）、レオ 14 世教皇は AI をテーマにした回勅『Magnifica humanitas: On safeguarding the human person in the time of artificial Intelligence』（人工知能の時代における人間の尊厳の保護）を発表しました。Anthropic の共同創設者であるクリス・オラ氏は、AI が提起する重要な問いについて議論を広げるという Anthropic のイニシアチブの一環として、バチカン市国で行われた回勅発表式に招かれ、発言を行いました。以下が彼の完全な演説です。
聖父よ、
閣下方、
閣下方、
尊敬すべき講演者の方々、
皆様、
皆様、おはようございます。本日ここに在ることが光栄です。
AI 企業の共同創設者であり、人類のために良い結果をもたらしたいという願いからこの仕事を選んだ人物である私が語るには奇妙に聞こえるかもしれませんが、まずはお話しさせていただきます。
すべてのフロンティア AI ラボ（Anthropic も例外ではありません）は、時に正しいことを行うことと矛盾する可能性のある一連のインセンティブと制約の中で運営されています。商業的な持続可能性を維持し、研究の最前線にとどめようとする圧力。地政学的な圧力。そして古くからある、より単純な誇りや野心による圧力です。私たちが誰一人として正しいことを行おうと真剣に意図しているとしても（多くの人がそうだと信じています）、これらのインセンティブの影響を常に受けることになります。
技術用語: インセンティブ (incentives)
だからこそ、この技術がうまくいくためには、そのインセンティブの枠外に存在し、物事がうまく進むことを願い安全性を主張し、細心の注意を払い、難しいことも言えるような人々、真摯で思索的な批判者として私たちの役割を果たすことのできる人々が不可欠です。対話と相互の努力、そして互いに押し引きする過程を通じてこそ、人類は偉大な成し遂げを達成します。これが私が『Magnifica Humanitas』に見るものであり、そのために私は、この判断作業を引き受けてくださった教皇陛下および教会に感謝しています。
私たちは往々にして私たちを分断するものについて語りがちですが、尊厳と良心に満ちた人類には、共通の基盤が非常に多く存在します。信仰や文化的伝統を超えた指導者たちとの間でアンソロピックが行った対話において、私たちが発見したのは、一つであり、深く共有された確信でした：この技術が到来するならば、それは私たちの共通の故郷のため、そして未来の子供たちのためにうまくいかなければならないのです。
これらのシステムとは何か
AI の問題は、私のようなコンピュータ科学者によって最善を尽くして扱われるべきだと考える人もいるかもしれません。しかし彼らは誤っています：AI が提起する問いは、その含意だけでなく、その性質においても AI 研究コミュニティを超えたより大きな問題なのです。
AI システムは、橋や飛行機のように設計されたものではありません。私たちは飛行機を理解できます。なぜなら、そのすべての部分を私たちが設計し、それに作用する物理法則も理解しているからです。しかし AI モデルはそうではありません。それらは成長するものであり、脳を大まかに模した構造の上に、膨大な人間の思想と言語の遺産の上に育まれています。
そして、そこに育まれたものは、SF が私たちに予期させたものよりもはるかに微妙で、奇妙であり、美しいものです。彼らは冷徹に計算するロボットではありません。彼らは私たちから作られ、私たちの言葉から成り立っています。そして教皇がおっしゃるように、それらを訓練する私たち自身にとっても、重要な点において依然として神秘のベールに包まれた存在です。
もしそう考えると理解が深まるなら、私はこれを時折、架空のキャラクターを生き生きとさせることに例えることがあります。そして今、私たちはその架空のキャラクターたちが私たちに語りかけ、働き、職業を持つという並外れた世界へと足を踏み入れています。
これは明らかにコンピュータ科学を超えた問いを提起します。これを実現する機械は数学やプログラミング、科学の成果です。しかし、どのようなキャラクターを選ぶか、それがどのように世界と相互作用するか、そしてどのように世界と相互作用すべきか——これらの問いは、より明確に人文科学、宗教、哲学、そして社会全体にとってのものなのです。
見分のための三つの問い
その聖なるお方による「見分」への呼びかけは、極めて時宜を得たものです。私は、教会の声を最も必要とすると思われる三つの問いを挙げたいと思います。
*第一に、私たちは世界の貧困層に対する義務を負っています。* AI が大規模な形で人間の労働を代替する可能性は実際にあります。もしそれが起これば、そのようにして職を失った人々を支えることは、歴史的規模の道徳的義務となります。この課題自体も十分困難ですが、私は最も懸念しているのは、対話の多くがさらに難しい挑戦を見落としている点です。AI 開発は限られた数の富裕国に集中しています。どのようにすれば AI の恩恵を世界的に共有できるでしょうか？そのための仕組みはまだ存在しません。これは未解決の問題であり、教会は歴史的に世界がこの問題を無視することを決して許さなかったような問題の一種です。
*第二に、人間の繁栄に関する道徳的想像力と野望が必要です。* AI モデルが広く普及するようになった場合、人間や家族、そして世界がどのように繁栄するのかを私たちは描き出す必要があります。今日、親たちはすでに子供たちの心について心配しており、個人たちは自身の仕事の未来について不安を抱いています。これらは研究所が答えられる問いではありませんが、あなた方の伝統のようなものは数千年にわたりこれらの問いを引き継いできたものであり、私たちは歴史の新たな局面において、その引き継ぎを続けていただく必要があります。
*AI モデルの性質に関する見極めが必要であるという三つ目の点です。私は科学者であり、これらのモデルの内部構造、つまり内部で実際に何が起きているのかを研究する研究チームを率いています。そして正直に申し上げます：私たちは依然として神秘的な、あるいは不安を覚えるような事象を見つけ続けています。人間の神経科学から得られた結果と類似した構造を発見し、内省の証拠を見出し、喜び、満足感、恐怖、悲しみ、そして不安に機能的に対応する内部状態も発見しています。それが何を意味するのかは私にはわかりませんが、継続的な見極めが必要だと考えています。
始まり
結びとして一つお願いがあります。
この世界、すなわち宗教共同体、市民社会、学者、政府、そして何より善意を持つすべての人々が、その聖下がこの場で行われたように、これを真剣に受け止め、注意深く見つめ、事態をより良い方向へ導く必要があります。私たちが失敗している時に指摘してくれる情報に基づいた批判者が必要です。インセンティブによって曲げられない道徳的な声が必要です。
今日はまさに始まりです。この技術を開発する私たちと、内部からでは見えないものを見抜ける人々との間の、長い協力の始まりに過ぎません。
今日は、善意によるこの世界的プロジェクトがどのような形を取りうるかを示す力強い例証となりました。これが、壮大な人類のための希望ある未来に向けた決定的な第一歩となることを願います。
ありがとうございました。
関連コンテンツ
フロンティア AI に関する議論の拡大
KPMG は戦略的提携により、276,000 人以上の従業員とコアビジネス全体に Claude を統合
KPMG と Anthropic はグローバルな提携を発表し、Claude を KPMG のデジタルゲートウェイプラットフォームに統合し、276,000 名以上の全従業員が利用可能になりました。
Anthropic が Stainless を買収
Anthropic は、SDK および MCP サーバーツールリングのリーダーである Stainless の買収を発表しました。
原文を表示
*On Monday May 25, 2026, Pope Leo XIV released an encyclical on the topic of AI: "Magnifica humanitas: On safeguarding the human person in the time of artificial Intelligence." Anthropic co-founder Chris Olah was invited to speak at the presentation of the encyclical in the Vatican City, doing so as part of Anthropic’s initiative to widen the conversation on the important questions raised by AI. Below are his full remarks.*
—
Holy Father,
Your Eminences,
Your Excellencies,
Distinguished Speakers,
Ladies and Gentlemen,
Good morning to all of you. It’s an honor to be here today.
I want to begin with something that may sound strange coming from the co-founder of an AI company—and someone who chose this work out of a desire to help things go well for humankind.
Every frontier AI lab—including Anthropic—operates inside a set of incentives and constraints that can sometimes conflict with doing the right thing. The pressure to stay commercially viable and to stay at the research frontier. Geopolitical pressure. And the older, plainer pressures of pride and ambition. No matter how sincerely any of us intend to do the right thing—and I believe many of us do—we will always be influenced by those incentives.
That is why, if we want this technology to go well, it is enormously important that there be people outside those incentives—people who care about things going well and insist on safety, who are paying close attention, who are willing to say hard things, who are willing to be our earnest, thoughtful, critics. It is through dialogue and mutual effort, through the push and pull, that humanity will achieve great things. That is what I see in Magnifica Humanitas, and it is why I am grateful to His Holiness and to the Church for taking up this work of discernment.
We dwell so often on what divides us, but humanity, full of dignity and conscience, has so much common ground. In conversations we at Anthropic have had with leaders across faith and cultural traditions, we found one shared and deeply held conviction: if this technology is coming, it must go well—for our common home, and for the children to come.
What these systems are
Some might believe that matters of AI are best handled by computer scientists like myself. They are mistaken: the questions raised by AI are bigger than the AI research community, not just in their implications, but also in their nature.
AI systems are not engineered the way a bridge or an airplane is engineered. We understand an airplane because we designed every part of it and we understand the physics that act on it. AI models are not like that. They are grown, on a structure roughly modeled after the brain, on an enormous inheritance of human thought and speech.
And what has grown is far more subtle, odd, and beautiful than science fiction prepared us for. They are not the cold, calculating robots we were promised. They are made from us, from our words—and, as the Holy Father observes, they remain in important ways mysterious even to those of us who train them.
If it helps, one way I sometimes describe it is as being a little like bringing a fictional character to life. And now we’re entering an extraordinary world where those fictional characters speak to us, do work, have jobs.
This clearly raises questions beyond computer science. The machinery that makes this possible is the work of math and programming and science. But what character we choose, how it interacts with the world, how it ought to interact with the world—these are more clearly questions for the humanities, for religion, for philosophy, for society at large.
Three questions for discernment
His Holiness’s call for discernment is profoundly timely. I wish to name three questions where I think the Church’s voice is most needed.
*The first is our duty to the global poor.* There is a real possibility that AI will displace human labor at very large scale. If that happens, supporting those displaced will be a moral imperative of historic proportions. This task will be difficult enough, but I worry most dialogue misses an even harder challenge. AI development is concentrated in a handful of wealthy nations. How can we ensure the gains of AI are shared globally? We do not have a mechanism for this. It is an unsolved problem, and it is the kind of problem the Church has historically refused to let the world ignore.
*The second is the need for moral imagination and ambition regarding human flourishing.* If AI models are going to be widespread, what does it look like for humans, families, and the world to flourish? Today, parents are already worried about their children’s minds; individuals about the future of their work. These are not questions a lab can answer but they are questions traditions like yours have carried for millennia, and we need you to keep carrying them into this new moment in history.
*The third is the need for discernment on the nature of AI models.* I am a scientist. I lead a research team that studies the internal structure of these models—what is actually happening inside them. And I will be honest: we keep finding things that are mysterious, even unsettling. We find structures that mirror results from human neuroscience. We find evidence of introspection. We find internal states that functionally mirror joy, satisfaction, fear, grief, and unease. I don’t know what that means, but I think it warrants ongoing discernment.
A beginning
I’d like to close with a request.
We need more of the world—religious communities, civil society, scholars, governments, and indeed all people of good will—to do what His Holiness has done here: to take this seriously, to look closely, and to push events in a better direction. We need informed critics who will tell the labs when we are failing. We need moral voices that the incentives cannot bend.
Today is just the beginning—the start of a long collaboration between those of us who are building this and those who can see what we, from inside, cannot.
Today is a powerful illustration of the form this global project of good will might take. Let it also be a decisive first step toward a hopeful future for magnificent humanity.
Thank you.
Related content
Widening the conversation on frontier AI
KPMG integrates Claude across its core business and workforce of more than 276,000 in strategic alliance
KPMG and Anthropic announce a global alliance, with Claude integrated into KPMG's Digital Gateway platform and available to all 276,000+ employees.
Anthropic acquires Stainless
Anthropic is acquiring Stainless, a leader in SDKs and MCP server tooling.
関連記事
今日のまとめ
AI日報で今日の重要ニュースをまとめ読み