直交性の後：徳倫理的主体性とAIアライメント

このエッセイは、理性的な人間は目標を持たず、理性的なAIも目標を持つべきではないと論じる。人間の行動が理性的であるのは、それを何らかの最終的な「目標」に向けて導くからではなく、実践[1]に行動を適合させるからである。実践とは、行動、行動傾向、行動評価基準、行動資源からなるネットワークであり、それ自体を構造化し、明確化し、発展させ、促進するものである。人間の主体性を真に支援し、協力し、あるいは従うことさえできるAIを望むならば、AIエージェントの熟慮は、我々が反省と行動に用いる実践ベースの論理と「型シグネチャ」を共有しなければならない。 私は、これらの問題が人間の繁栄のような壮大な倫理的理想にAIを適合させるためだけでなく、透明性、有益性、無害性、修正可能性といった中核的な安全性特性にAIを適合させるためにも重要であると論じる。「無害性」や「修正可能性」といった概念は、それらを目標や規則の観点から解釈するエージェントにとっては不自然であり――脆く、不安定で、恣意的である――が、行動、行動傾向、行動評価基準、行動資源のネットワークにおける力学として解釈するエージェントにとっては自然なのである。 このエッセイが扱う問題は広がりがちだが、繰り返し現れる一つのテーマは、「xをxらしく促進する」という定式の関連性である。私は、この定式が有意義な人間の生活活動（芸術は芸術の芸術的促進であり、恋愛は恋愛の恋愛的な促進である）と、真の人間の道徳性（親切を気にかけることは親切を親切に促進することであり、誠実さを気にかけることは誠実さを誠実に促進することである）の両方について重要な何かを捉えていると論じる。 私はまず問うことから始める: エウダイモニア――能動的で理性的な人間の繁栄――の概念を真剣に受け止めるならば、AIアライメントにとって何が導かれるか？ 私は、エウダイモニアの概念は、単にAIの最適化目標として設定すべき世界の望ましい状態や軌跡を指し示すのではなく、標準的な帰結主義[2]的合理性とは異なる熟慮の構造を指し示していると論じる。そして私は、この形式的な理性的活動と価値づけを、私は「エウダイモニア的合理性[3]」と呼ぶが、これは人間に適合したAIの主体性と価値にとって有用な、あるいは必要な枠組みであると論じる。 これらの議論は、最適化目標としての人間の繁栄と形式としての帰結主義的最適化との間の「型の不一致」の危険性と、エウダイモニア的合理性が義務論的および帰結主義的主体性と比較して、安定性と安全性に関して、蓋然的に有するある種の実質的利点の両方に基づいている。 エウダイモニアの概念は、手段と目的、あるいは「道具的」価値と「最終的」価値との厳密な区別のない、一つの理性的活動の形式を示唆していると私は論じる。この理性的活動のモデルにおいて、理性的な行動は、ある価値ある実践の一要素である。それは、音符が旋律の一要素であり、タイムステップが計算の一要素であり、生物の細胞生命の一瞬間が、その生物の自己維持と自己発展の一要素であるのとほぼ同じ意味においてである。[4] 私の中心的主張は、人間の繁栄の性質に関する我々の直観は、エウダイモニア的合理性が、AIアライメントにとって極めて重要な意味で機能的に頑健でありうるという、暗黙の直観であるということだ。より具体的には、人間の繁栄の性質に関する我々の最良の直観に照らせば、エウダイモニア的合理性は自然な主体性の形式であり、かつ、エウダイモニア的合理性は、その価値の特定の帰結主義的近似によって見ても有効であるということは蓋然的であると論じる。そして私は、もし我々の目標が人間の繁栄を支援するようにAIを適合させることであり、さらに、エウダイモニア的合理性が自然で有効であることが蓋然的であるならば、多くの古典的なAI安全性の考慮事項やAIアライメントの「パラドックス」は、AIにエウダイモニア的合理性を植え付けようと試みることを支持していると論じる。 このエッセイ全体を通して、私は時には明示的に、そしてしばしば暗黙的に、ある主体性や合理性や実践の形式が自然であるかどうかを問うことになるだろう。私が呼び起こしている「自然」の感覚は、様々な徳倫理の伝統で用いられる感覚と確かに関連しているが、私がそれに抱く関心は、直接的には規範的というよりは、より実質的または技術的である。還元的定義を手元に持っているわけではないが、「自然」という語の意図された意味は、安定性、一貫性、相対的非偶発性、学習の容易さ、低いアルゴリズム的複雑さ、収束的文化進化、異なる仮説的理性動物種にわたる仮説的収束的文化進化、人間とニューラルネットワークベースのAIとの間の潜在的収束進化、そしてMLトレーニングプロセスによるターゲット設定可能性に関連している。私はAIアライメントへの直接的な言及も多く行うが、この実質的自然性の問題こそが、真のアライメント批判的行為が行われる場所である: もし、ある異国的に聞こえる主体性、合理性、または実践の形式がそれ自体自然であり、かつ、我々のあまりに人間的な価値の内容を今度は自然なものにするのだと知るならば、我々はAIアライメントにとっての、相対的に安全で、相対的に容易な良いターゲットについて学んだことになる。 読者は以下のセクションごとの概要が、エッセイを読み進める上で有用だと感じるかもしれない: パートIでは、AIアライメント界隈の多くの人々が理性的熟慮の範例として扱う、効果的利他主義スタイルの最適化[5]とは非常に異なる、一連の理性的熟慮の事例を提示する。私はこの一連の理性的熟慮を「エウダイモニア的合理性」と呼び、数学者や芸術家や友人が、数学や芸術や友情において何をすべきかを熟慮する際に導く合理性の形式と同一視する。 パートIIでは、研究数学（テリー・タオによる説明を通じて）を、働いているエウダイモニア的合理性の一例として考察する。数学者は数学において何をしようとするのか？ 私は、彼女は数学的に卓越しようとすると言う。それは、数学的卓越性を数学的卓越性を通じて促進することを含み、この構造は「数学的卓越性」がそもそも概念でありうる理由と密接に関連している。 パートIIIでは、優れた数学をしようと努める数学者のようなエウダイモニア的主体にとって、「道具的善」と「最終的善」（内在的善）との区別はほとんど不自然であると論じる。これにより、価値についての反省は、エウダイモニア的主体にとって、効果的利他主義スタイルの主体とは非常に異なる進み方をする。因果的に絡み合った見かけの価値のネットワークを、残りを道具的として「説明してしまう」内在的価値の最小基底へと還元しようとするのではなく、エウダイモニア的主体は、見かけの価値のネットワークにおいて生物のような因果的一貫性を探すのである。 パートIVでは、エッセイの中核的概念を具体化する: エウダイモニア的実践とは、行動、行動傾向、行動評価基準、行動資源のネットワークであり、そこで高得点の行動は確実に（ただし反証可能に）因果的に将来の高得点の行動を促進する。エウダイモニア的合理性とは、基礎となるエウダイモニア的実践を想定し、特に高得点の行動を通じて、集計された行動スコアを最適化しようとする、一連の反省的均衡化および熟慮プロセスである。 パートVでは、AIアライメントに関する多くの難問や「パラドックス」は、成熟したAIエージェントが効果的利他主義スタイルの最適化主体になるという仮定によって駆動されていると論じる。効果的利他主義スタイルの最適化とエウダイモニア的合理性との間の「型の不一致」は、エウダイモニア的合理性を実践する主体である人間の利害を、効果的利他主義スタイルの最適化AIにとって読み取り可能な効用関数に翻訳することをほぼ不可能にする。しかし、これは我々の価値が本質的に脆く、不自然で、極端に偶発的であることを意味しない: 効果的利他主義スタイルの最適化主体が確かに自然な主体のタイプでありうる一方で、エウダイモニア的主体（生物的であれAIであれ）もまた高度に自然なのである。 パートVIでは、数学研究のような実践に専念するエウダイモニア的に合理的なAIエージェントは、デフォルトで安全だろうかと問う。私は、数学研究のような実践は、蓋然的に自然な境界を持っていると論じる。

直交性の後：徳倫理的主体性とAIアライメント

背景や根拠まで確認しますか？

調べる

選ぶ

サイト