自律型兵器に関する法を契約で凍結できるか？

ジェレミー・ハワードとルーク・ヴァースヴェイフェルドによる。両者はバージル・ローの共同創設者である。ジェレミーはアンサー・AI の設立 CEO であり、最初の LLM（大規模言語モデル）の発明者である。ルークはバージルの CEO であり、契約法の専門家である。

背景

OpenAI は最近、「戦争省との我々の合意」を発表し、そこに重要な契約条項を含めた（強調は ours）：

戦争省は、適用される法律、運用要件、および確立された安全・監督プロトコルに適合するすべての合法的な目的のために AI システムを使用できる。AI システムは、法律、規制、または省の方針が人間の制御を要求する場合、いかなる場合においても自律型兵器を独立して指揮するために使用されることはなく、同様の権限の下で人間の意思決定者の承認を必要とする他の高リスクの決定を引き受けるためにも使用されない。国防総省指令 3000.09（2023 年 1 月 25 日付）によると、自律型および半自律型システムにおける AI の使用は、展開前に現実的な環境で意図通りに機能することを保証するために、厳格な検証、妥当性確認、およびテストを経なければならない。

さらに、彼らは以下の「よくある質問」も掲載した：

政府が法律や既存の戦争省の方針を変更した場合どうなるのか？

我々の契約は、現在の監視および自律型兵器に関する法律および方針を明確に参照しており、将来これらの法律や方針が変更されたとしても、我々のシステムの使用は合意書に反映される現在の基準と依然として整合している必要がある。

x.com 上の「AMA」（Ask Me Anything）において、OpenAI の CEO サム・アルトマン氏に対し、ユーザー @deredleritt3r が以下の質問を投げかけました。

…DoW（Department of War）との契約書におけるどの条項が、「現行の法律および政策」を「明示的に参照している」のか、ご教示いただけますでしょうか？

OpenAI for Government の国家安全保障パートナーシップ責任者である Katrina Mulligan 氏は、上記の契約書の文言で回答し、@deredleritt3r はさらに追及しました。

この文言には「適用される法律（applicable law）」への言及が含まれています。DoW はこれを、「契約が署名された時点での適用法」と解釈しているのでしょうか？それとも、「関連する行為が行われた時点での適用法」とは異なる解釈なのでしょうか？

これに対し Katrina Mulligan 氏は以下のように回答しました。

「我々の意図は、『契約が署名された時点での適用法』を意味することでした」。

本記事では、OpenAI が共有した契約書の文言に基づき、この理解が誤りである理由を解説します。契約書の文言は米国法の下で解釈され、契約上の問題が生じるあらゆる将来の時点における適用法を指すと解されます。これは極めて重要な点です。なぜなら、この保護がない場合、「将来的にこれらの法律や政策が変更されたとしても、当社のシステムの使用は依然として契約書に反映された現在の基準と整合していなければならない」という主張は成立しないからです。

後述する通り、最高裁判所の判例を150年にわたり継承し、契約法に関する基礎的な学説にも裏付けられた複数の独立した法的教義は、「適法な目的」という概念が本質的に流動的であることを確認しています。これは署名時の法律ではなく、履行時における現在の法律を指すのです。OpenAI は、自身が信じていたような保護措置を備えていない契約に締結してしまった可能性があります。

言語分析

段落を節ごとに順を追って検討し、注釈を加えていきます。

「戦争省は、AI システムをすべての適法な目的のために使用できる」

後述する通り、これがこの文の核心部分です。契約上、「すべての」適法な目的の使用が許可されていることは明白です。

適用される法律、運用要件、および確立された安全・監督プロトコルに適合した範囲において。

「適用される法律に適合した」という表現は、前述の「適法な目的」という文言を単に言い換えただけです。「運用要件」とは、省が要求するあらゆる運用を指します。一方、「確立された安全・監督プロトコル」はこの文の中で最も曖昧な部分です。現時点ではそのような確立された安全・監督プロトコルが存在しないためです。米軍がそのような安全・監督プロトコルを設定する能力を持たなかったと主張するのは困難なケースとなるでしょう。したがって、実務的には「AI システムをすべての適法な目的のために使用できる」という文言こそがこの文の実際の意味となります。

AI システムは、法律・規制または省庁の方針において人間の制御を必要とするあらゆるケースにおいて、自律型兵器を独立して指揮するために使用されることはありません。

この節は全体として読む必要があります。なぜなら、ここに制約（「自律型兵器を独立して指揮するために使用されない」）と例外規定（「法律・規制または省庁の方針が人間の制御を必要とするあらゆるケースにおいて」）の両方が含まれているからです。この例外規定により、文の前半は実質的な制約を追加するものではなく、なぜなら例外規定が「AI システムをすべての合法的な目的で使用してもよい」という許可を再述しているためです。

また、同様の権限の下で人間の意思決定者の承認を必要とする他の高リスクな判断を引き受けるためにも使用されることはありません。

これは文の前半と同じく、「制約→例外規定」の構造を持っており、結果も同じです。「同様の権限の下で」とは、前述の「合法的な目的」を指します。

この文の結果は、「AI システムをすべての合法的な目的で使用してもよい」という文言に対して実質的な制約を追加するものではありません。

国防総省指令 3000.09（2023 年 1 月 25 日付）によると、自律型および半自律型システムにおける AI のあらゆる使用は、展開前に現実の環境で意図通りに機能することを確保するために、厳格な検証・妥当性確認・テストを経る必要があります。

これは単なる事実の表明に過ぎません。現在の国防総省（DoD）指令を記述しているだけであり、この指令を契約自体に取り込むための言語を用いているわけでもなく、当事者のいずれにも追加的な契約上の義務を生じさせるものでもありません。もし DoD 指令が変更されれば、許可される「合法的な目的」もまた変化します。これは単なる論理的推論ではなく、後述する通り確立された法理です。

さらに、現在の指令はすでに、「AI システムは自律型兵器を独立して指揮するために使用されない」という制約に対する例外規定（carve out）となっています。それはすでに、「意図通りに機能する場合」にはそれらを使用することを許可しています。

「合法的な目的」の意味

この分析を踏まえて、OpenAI の声明「当社の契約は、現在の監視および自律型兵器に関する法律および政策を明示的に参照しており、将来これらの法律や政策が変更されたとしても、当社のシステムの使用は依然として合意書に反映された現在の基準と整合していなければならない」という部分を見てみましょう。

前半部分は真実です。前述の通り、契約は DoD 指令 3000.09 を引用することで、「現在の監視および自律型兵器に関する法律および政策を明示的に参照している」のです。

しかし、OpenAI が共有した文言に基づけば、これは真実ではありません。「将来、これらの法律や方針が変更されたとしても、当社のシステムの使用は依然として現在の基準と整合している必要がある」という文言です。具体的には、明示的な言及が行われる方法は単なる事実の表明に過ぎず、契約上の義務を課す文言を採用したり導入したりするものではありません。Mulligan 氏が契約において「契約が署名された時点における適用法」を参照させる意図は、共有された契約文言によって成功裏に反映されていません。

次に、「合法的目的」という用語を検討し、それがなぜ、どのようにして署名時ではなく履行時の法律を指すのかを理解しましょう。

事後の違法性

米国の契約法における画期的な論考である『契約法再述（第二版）』は、この問いに直接答えています。第 264 条（政府による規制または命令による履行の防止）への注釈には、「契約の基本的な前提として、法律が履行期において履行を不可能にするために直接介入することはない」とあります。これは、合法性を署名時ではなく履行時に評価するものとして明確に位置づけています。

最高裁判所は、1911 年の Louisville & N. R. Co. v. Mottley（219 U.S. 467）においてこの原則を確認しました。この事件は 1871 年に発生した訴訟で、L&N 鉄道がモッテリー夫妻に怪我の和解金として終身無料乗車券を交付したことが争点でした。1906 年、議会は州際通商法（Interstate Commerce Act）の改正であるヘップバーン法（Hepburn Act）を可決し、鉄道会社が無料乗車券を発行することを禁止しました。これにより鉄道会社は乗車券の発行を停止しましたが、モッテリー夫妻は 1906 年法が既存の契約には適用されないとして、契約履行の強制執行を求めました。しかし、最高裁判所（SCOTUS）は彼らの主張を退け、その後の連邦立法により契約は執行不能になったと判断しました。

同事件において、ハーラン判事は「有効に締結されたものであっても、その後の立法によって違法となった契約は、当事者間に対して強制執行できない」と述べました。裁判所は、もしこの原則が逆であれば、「個人や企業は、立法を予測して相互間の契約を結ぶことで、憲法が認める範囲で議会の通商規制権限の行使を無効化できてしまう」と指摘しました。「議会の権力がこれによって制限されることはあり得ない」としたのです。

これは現在の議論と密接に平行しています。OpenAI は国防省（DoW）に対して、AI システムを「すべての合法的な目的」のために提供しました。もし今後、議会で自律型兵器に関する立法が行われた場合、OpenAI が「契約によって立法前の基準が固定されている」と主張することはできません。これは、モッテリー夫妻が 1871 年の契約が 1906 年のヘップバーン法から免責されると主張できなかったのと同じ理屈です。

この法理は争われていません。ハーラン判事が指摘したように、権限は多数あり、すべて一方向を向いています。したがって、「すべての合法的な目的」という表現は、署名時の法律に対する静的な参照として読み取ることはできません。後発的違法性の概念は、合法性が履行時において評価されるべきであることを要請します。

政府は立法権を契約によって放棄できない

後発的違法性の法理はすべての契約に適用されます。しかし、OpenAI の解釈にはさらに根本的な問題があります。契約当事者の一方は米国政府そのものだからです。

もし OpenAI の読み方が正しく、契約が署名時の法律を固定するものであるならば、それは AI および自律型兵器に関する将来の議会の立法権限を実質的に制限することになります。政府の主要な AI 顧客である戦争省（Department of War）は、自らの契約と矛盾する立法を支持することは稀であり、結果として立法行動に対する事実上の凍結が生じます。これは、最高裁判所が過去一世紀以上にわたって拒否してきたまさにその種の結果です。

最も直接的に本件に関与するのは、United States v. Winstar Corp., 518 U.S. 839 (1996) です。貯蓄貸付組合危機の際、連邦規制当局は健全な貯蓄貸付組合に対して破綻した組合の買収を促し、有利な会計処理を契約上約束しました。その後、議会は FIRREA（1989 年）を可決し、その処理を廃止して合併後の貯蓄貸付組合を事実上の破産状態に陥らせました。貯蓄貸付組合の契約には、「米国が制定するすべての関連法規・規則・命令および課される制限について、実質的なすべてにおいて遵守すること」を要求する条項が含まれており、これは OpenAI の「適用法に適合すること」という文言と驚くほど類似しています。最高裁判所は 7-2 で、この条項は単に貯蓄貸付組合が将来発生した法律に従うことを求めるものであり、契約締結時の規制枠組みを凍結するものではないと判断しました。さらに裁判所は、政府が契約を結んだ場合でも立法主権を保持し続けるという見解を示しました。その後の立法は関係なく適用され、問題となるのは変更に対して政府が損害賠償を負うかどうかであって、旧法が存続するかどうかではありません。OpenAI と米国国防総省（DoW）の契約との平行性は直接的です。「適用法に適合すること」という文言は、契約締結時ではなく、契約履行時の法律を指すものです。

ストーン対ミシシッピ州事件（101 U.S. 814, 1879）において、裁判所は全会一致で、州政府が警察権（すなわち公共の福祉のために規制する権限）を契約によって放棄することはできないと判決しました。ミシシッピ州は1867年に宝くじの特许状を付与しましたが、1868年には憲法改正により宝くじを禁止しました。宝くじ会社側は、その特许状が保護された契約であると主張しましたが、裁判所はこれを退けました。公共の福祉のための規制権限は譲渡不能であり、契約を通じて放棄することはできないからです。

同様の原則は、2年前のボストンビール社対マサチューセッツ州事件（97 U.S. 25, 1877）でも確立されました。この事件では、麦芽酒製造権を付与する企業特许状が、その後の州政府による規制によって上書きされると判断されました。また、ホーム・ビルディング＆ローン協会対ブレイズデール事件（290 U.S. 398, 1934）において、裁判所は憲法の契約条項は無条件ではなく、公共の福祉に資する場合には州政府の警察権とバランスを取る必要があると判決しました。

最も最近では、スヴェーン対メリン事件（584 U.S. 129, 2018）において、裁判所は8対1で、州政府が契約条項に違反することなく、既存の契約に対して新しい法律を遡及的に適用できると判断し、契約は凍結されたものではなく、生きている法的枠組みの中に存在するという点を再確認しました。

これらの判例は140年にわたり跨度しており、現在も有効な法理です。州政府であれ連邦政府であれ、将来の立法を自発的に差し控えることを契約によって自ら縛ることはできません。

凍結条項の欠如

OpenAI が署名時の法を固定しようとしたのであれば、「法的」という定義に頼るのではなく、明示的な契約条項を用いて行うことができたはずです。このような性質の契約は、範囲の曖昧さを避けるために具体的になるものです。

そのための仕組みとして、「凍結条項」（「安定化条項」とも呼ばれる）が存在します。これらは主に国際投資協定に見られる特別な契約規定であり、合意の有効期間中、署名日時点で有効な法律のみが合意を支配すると明示的に定めています。「凍結条項」が独自の専門的な起草メカニズムとして存在すること自体が、デフォルトの立場が流動的であることを示す強力な証拠です。もし「適用法」や「法的目的」がすでに「署名時の法」を意味するものであれば、凍結条項は不要となるはずです。これらが存在するのはまさに、これらがない限り契約における法の参照は履行時における法を指すと理解されるからです。

OpenAI が共有した契約言語にはそのような条項が含まれていません。ただし、何らかの理由で実際には含まれていたが共有しないことを選んだ可能性もゼロではありません（これは驚くべきことです。おそらく彼らは記事での自らの主張を最も支持する言語を共有することを選んだはずだからです）。

このような条項は政府調達において極めて稀であり、私たちがインタビューした専門家の間にも、かつてそのようなものを見たことがあるという者は誰もいません。実際、ウィンスター判決では、裁判官たちは明確に、このような条項は無効であるとみなすべきであることを示しました。スカリア判事の補足意見（ケネディ判事とトマス判事が賛同）は次のように述べています。「政府は通常、主権や立法権を制限することに同意するものではなく、契約はそのような背景理解に基づき常識的に解釈されるべきである」。サウター判事の多数意見は、「後の立法変更のリスクを調整するための契約は、政府の立法的主権を剥奪するものではない」と述べています。

仮に OpenAI の契約に明示的な法凍結条項が含まれていたとしても、それが米国政府に対して執行可能であるとは到底いえない状況です。連邦巡回区裁判所は、主権行為の法理（政府がその公共的かつ一般的な行為が自らの契約に与える影響について責任を負うことができないという原則）が「すべての政府契約に内在する」ものであると判断しています（Conner Bros Construction Co. v. Geren, 550 F.3d 1368 (Fed. Cir. 2008)、ウィンスター判決を適用）。法凍結を主張する条項は、この内在的な要件に直接矛盾します。

したがって、「すべての合法的な目的」という表現は、契約が履行される時点で法律が許可するものを指すと結論づけるのが妥当であるように思われます。

他の専門家の発言

多くの国家安全保障法専門家が同じ結論に至っています。つまり、共有された OpenAI の契約書の文言は、政府を拘束するものでもなく、意味のある契約上のレッドラインを提供しているようには見えないということです。例：

LawAI のシニア研究フェローであるチャーリー・ブルロック氏は、「私たちが入手した契約書の文言が示す本質的な内容は、『DOW は OpenAI の AI システムをすべての合法的な目的で使用できる』という点に尽きます。これがすべてです。『DOW は法律に従わなければならない』という条件以外で、OpenAI のシステムを使用する DOW の能力に対する真の契約上の制限は、『DOW は省庁の方針に従わなければならない』という点だけです。しかし当然ながら、DOW はいつでも自らの方針を変更することができます。」

ミネソタ大学ロースクールの准教授であり、Lawfare の研究ディレクター兼シニアエディター、元司法省弁護士であるアラン・ローゼンシュタイン氏は、「私はまだ OAI が合意した条項が何なのかを把握しようとしていますが、次第に、それらは DoD（国防総省）が行うことに対する実質的な制限ではなかったのではないかと思うようになりました。したがって、それが大きな妥協だったとは考えにくい」と述べています。

元陸軍法務総監、元陸軍次官、元国防次官であるブラッド・カーソン氏は、「この解釈が正しいと私は考える（IMO）」と述べ、OpenAI の従業員であるレオ・ガオ氏の次の発言を指しています。「OpenAI の DOW ブログ記事から引用された契約書の断片は、明らかに『すべての合法的な使用』という文言に始まり、その後には実質的な効力を持たず単なる飾り付けに過ぎない内容が並んでいる。」

本稿の執筆中に貴重なフィードバックをくださったブラッド・カーソン氏に心より感謝いたします。