教皇の AI 回勅は、実は AI についてではない

レオ14世教皇は月曜日、AI の時代における人間の尊厳を守ることをテーマにした「マグニフィカ・ヒューマニタス（Magnifica Humanitas）」と題された最初の回勅を発表しました。AI がフックとなっている一方で、レオが焦点を当てる問題はより古く、より広範なものです：不平等、戦争、民主主義の浸食、そして人類全体が尊厳ある存在であるかどうかに関心のない人々の手に権力が集中することです。

教皇はアンソロピック（Anthropic）の共同創設者クリス・オラハと共に200ページにわたる文書を提示し、少数のエリートによって構築されかつ統治される技術は、定義上、共通善に奉仕することはできないと論じました。

「権力が少数の手に集中すると、それは不透明化し公的な監視を逃れやすくなり、新たな依存関係、排除、操作、不平等を生み出す歪んだ開発形態のリスクが高まります」と彼は記しています。

回勅はさらに、「実際には、あらゆる主要な技術的転換と同様に、AI はすでに経済資源、専門知識、データへのアクセスを有する人々の権力を増幅させる傾向があります」と述べ、エリートがその権力を利用して「情報や消費パターンを形成し、民主主義プロセスに影響を与え、自らの利益のために経済動向を誘導できる」ことへの懸念を強調しています。

教皇の AI に関する回勅は、ドナルド・トランプ大統領が AI に関する行政命令への署名を延期した数日後に発表されました。この命令は、新モデルがリリースされる前に政府による監督権限を与えるものでしたが、VC投資家であり元ホワイトハウス AI 特使であるデイヴィッド・サックスの要請により延期されたと報じられています。

レオ教皇は、AI が影響を及ぼすコミュニティからの参加に基づいた「明確な基準と効果的な監視」によって導かれるよう求めました。より具体的には、企業や国家が「地政学的または商業的支配力を確保する」と信じている、「より強力なアルゴリズムと大規模データセット」をめぐる AI 軍拡競争の終結を呼びかけました。

「武装解除とは、技術的な力が自動的に統治権を与えるという前提を無効にすることである」と彼は記しました。

再び、これらの動態は AI に先立って存在していました。レオ十三世の 1891 年回勅『新事物』も産業革命期の権力の集中について言及していますが、そこまで遠くを振り返る必要はありません。イーロン・マスクによる Twitter の買収と、トランプ氏の当選支援のために同プラットフォームを活用した事例、あるいは AI 規制阻止のために超党派政治活動委員会（PAC）へテックエリートから「数億ドルが流れ込む」数百億ドルの資金移動 — これは明らかにレオ十四世の著作に影響を与えたパターンです。

教皇は、多くの人が到達した結論と同じ結論に至ります：今日の AI が持つ非現実的な権力と能力は、賭け金を劇的に引き上げるのです。

ノートルダム大学ロースクールのパオロ・カロッツァ教授（社会科学教皇院会員かつメタ監視ボード議長）は TechCrunch に対し、AI に駆動された誤情報やディープフェイクが「真偽を見分ける私たちの能力を侵食しており、それが民主政治に重大な影響を及ぼす」と述べました。さらに、テック業界による人間のデータを「収集・操作」する慣行は、「認知の自由に対する根本的な課題」を提示すると付け加えました。

*当記事内のリンクを通じてご購入いただいた場合、私たちは少額のコミッションを受け取る可能性があります。これは当社の編集独立性には影響しません。*

レベッカ・ベランは、テクノロジー業界のビジネス、政策、そして人工知能（AI）を形作る新興動向を取材する TechCrunch のシニア記者です。彼女の作品はまた、フォーブス、ブルームバーグ、ザ・アトランティック、ザ・デイリー・ビーストなど、他の出版物にも掲載されています。

レベッカへの連絡や、彼女からのアウトリーチの検証は、rebecca.bellan@techcrunch.com 宛てにメールを送るか、Signal の暗号化メッセージで rebeccabellan.491 に送ることで可能です。

プロフィールを見る