ペンタゴンとOpenAIの画期的な契約、その解説

どんな日でも、先週金曜日に OpenAI が発表した記録的な 1,100 億ドルの資金調達ラウンドは、AI 界の注目を集めるはずでした。しかし代わりに、私たちはすべて Anthropic とペンタゴンの対決に引き込まれました。 火曜日、国防長官ピート・ヘグセットは、Anthropic の CEO ダリオ・アモデイをペンタゴンに呼び出しました。彼は、Claude を米国人の大量監視や完全自律型兵器の運用に使用することを禁止する契約条項の撤廃を Anthropic に要求しました。Anthropic がこれに従わない場合、ヘグセットは Anthropic をサプライチェーンリスクとして宣言すると脅し、この指定により他の政府請負業者が Anthropic の製品を使用できなくなる可能性があると示唆しました。 ヘグセットはアモデイに、金曜日の午後 5時1分を期限としました。しかしドナルド・トランプが先手を打ちました。午後 3時47分、彼は Truth Social で「Anthropic は『急進的な左翼の目覚めた企業』である」と宣言し、「アメリカ政府内のすべての連邦機関に対し、直ちに Anthropic の技術の使用をすべて停止する」よう指示しました。ヘグセットは彼の脅しを実行に移し、Anthropic をサプライチェーンリスクとして宣言しました。 ヘグセットによると、これは「即時効力をもって、米国軍と取引を行う請負業者、供給業者、またはパートナーが Anthropic といかなる商業活動も行ってはならない」ことを意味しますが、法律がヘグセットにそのような広範な権限を与えるものかどうかは明確ではありません。 数時間後、サム・アルトマンは OpenAI がペンタゴンと独自の合意に達したことを発表し、AI 界を驚かせました。アルトマンは、ペンタゴンが OpenAI のモデルを完全自律型兵器や米国人の大量監視に使用しないことに同意したと主張しました。これは数日前に Anthropic が同様の制限を求めた際にペンタゴンが拒否していた条件と同じものです。 この発表当初、私を含む多くの観察者を混乱させました。アルトマンは本当にヘグセットを、彼が直前にアモデイに対して拒絶した条件を受け入れさせることに成功したのでしょうか？それとも、OpenAI の従業員であるレオ・ガオが OpenAI の契約におけるガードレールについて「実質的には機能しておらず、単なる飾りに過ぎない」と述べたことが正しかったのでしょうか。 先週の交渉の概要は週末にかけて徐々に明らかになりました。アルトマンや他の OpenAI 従業員は Twitter で自身の見解を共有し、土曜日の夜に行われた質問に答えるセッション（AMA）も含まれていました。トランプ政権の高官たちも意見を述べています。ニューヨーク・タイムズやアトランティックなどの報道機関が、裏側で交わされた詳細な情報を公開しています。 私はこれらの情報をすべて注意深く読みましたが、私には OpenAI がペンタゴンの要求に応じ、その過程で Anthropic を下回ったように見えます。OpenAI が共有した契約条項は、政府が米国人をスパイしたり完全自律型兵器を構築したりする能力を実質的に制限しているようには見えません。 しかし究極的には、いかなる契約も政府による AI の濫用を防止するものではないと思います。それには議会による監視、そして最終的には立法が必要です。どのモデルが使用されるかに関わらず、政府のすべての AI 利用に適用される基本的なルールが必要なのです。 ![image](https://substackcdn.com/image/fetch/$s_!VqWO!,w_1456,c_limit,f_auto,q_auto:good,fl_progressive:steep/https%3A%2F%2Fsubstack-post-media.s3.amazonaws.com%2Fpublic%2Fimages%2F2bee7987-831b-4626-a3df-0fe0be3b8534_5074x3383.jpeg) 国防長官ピーター・ヘグセスと、研究工学担当国防次官エミル・マイケル。（写真：Win McNamee/Getty Images） 大規模監視をめぐる争い 先週の争いの背景には、政府の約束をそのまま信じるのが妥当かどうかという問題がありました。なぜ多くの人々がそれに対して懐疑的なのかを理解するには、2013 年の出来事まで遡る必要があります。 2013 年 3 月の上院公聴会において、ロ恩・ワイデン上院議員（民主党・オレゴン州）は、バラク・オバマ大統領の国家情報長官ジェームズ・クラッパーに対し、「NSA は数百万人あるいは数億人の米国人に対して、いかなる種類のデータも収集しているのか？」と問いました。 クラッパーは「いいえ、意図的にではありません」と答えました。 それから 3 ヶ月後、NSA の契約業者であるエドワード・スノーデンが文書を漏らし、政府が実際には米国の数百万人の電話通話記録をベライゾンや他の通信会社から収集するための裁判所の命令を取得していたことが明らかになりました。 6 月の議会聴聞会において、オバマ政権の高官がこのプログラムの政府による法的根拠を擁護しました。法律の下では、政府は継続中のテロ捜査に関連する業務記録を取得することが可能です。政府は外国情報監視法（FISA）裁判所に対し、全米国民の電話記録がすべて該当すると説明していました。これに激怒したジェームズ・センセンブレナー下院議員（共和党・ウィスコンシン州選出）は、政府の法律解釈が「法的基準を嘲笑するもの」と憤慨しました。 この歴史的背景を踏まえれば、OpenAI と政府との契約が軍事的権限に実質的な制限を加えるとは考えにくいと人々が懸念するのも理解できます。同契約では、「個人情報の取扱いについては、修正第 4 条、1947 年国家安全保障法、1978 年外国情報監視法、大統領令 12333 号、および定義された外国情報目的を要する国防総省（DoD）指令に準拠する」と明記されています。さらに、「これらの権限の一貫性に基づき、AI システムは米国人の個人情報に対する無制限な監視には使用されない」と付加されています。 購読はこちら 特筆すべきは、これらすべての法律や規制がスノーデン氏の告発以前から存在していたにもかかわらず、政府が数百万人の米国民の電話記録を収集することを阻止しなかったという点です。 土曜日の質疑応答セッションにおいて、アルトマン氏は質問に答えるためにカトリーナ・マリンガンというスタッフを指名しました。マリンガン氏は 2024 年初めに OpenAI の「初の国家安全保障担当の採用者」となる前に、10 年間にわたり国家安全保障の世界で活動していました。彼女は OpenAI とペンタゴン間の交渉において中心的な役割を果たした人物です。 ある参加者が、ペンタゴンが OpenAI のモデルを用いて「大規模に利用可能な商用データを分析する」可能性についてマリンガン氏に尋ねました。これに対しマリンガン氏は、「これは懸念する必要がない」と答え、「ペンタゴンにはそれを法的権限を持って行う権限がないからである」と述べました。 しかし、これは真実ではないようです。ジョー・バイデン氏が 2021 年に就任した直後、『ザ・ヒル』紙は「国防情報局（DIA）の分析官らは、令状なしに近年、米国のスマートフォン位置データのデータベースを購入してきた」と報じていました。 2018 年の Carpenter v. United States 事件において、最高裁判所は、政府が携帯電話事業者から個人の位置データを入手するには第四修正憲法により令状が必要であると判断しました。しかし、DIA の内部メモには、「同局は Carpenter 判決を、諜報目的のために商用データの購入または利用を承認する司法令状の必要性と解釈していない」と記されていました。 OpenAI の批判者たちは、OpenAI との契約書にある曖昧な表現が政府に大量監視を行うための多くの抜け道を提供していることを懸念しています。例えば、民間企業から大量の位置データを購入することは「制約のない監視」に該当するのでしょうか？大半の市民自由団体はイエスと答えるでしょうが、政府はノーと言うかもしれません。 中核となる問い：あなたは政府を信頼しますか？ Snowden の暴露以降、オバマ政権の多くの国家安全保障関係者は、自分たちが何か悪いことをしたとは思っていませんでした。 明確な不正行為の事例はいくつかありました。例えば、NSA（アメリカ国家保安局）の従業員の中には、監視権限を恋愛対象のスパイ活動に利用していた者も捕まりましたが、NSA はこれらの事件は「非常に稀」であり、加害者は解雇されたと述べています。 主要な Snowden の暴露はそれとは異なり、オバマ政権がテロリストをより効果的に監視するために法的限界を試みていることを示しました。政治的優位性の獲得や個人的な富の追求のためではありませんでした。 そして、理論上では透明性が素晴らしいように聞こえるかもしれませんが、情報機関側は、新たな監視プログラムに対して議会に明示的な承認を求めることは非現実的だと考えていました。彼らは、新しい監視プログラムについての公開議論がテロリストにプログラムの存在を知らせ、その有効性を損なう恐れがあると信じていたのです。そのため多くの関係者は、合理的な妥協点を見出したと考えていました：一部のプログラムは一般から秘密にしつつ、FISA 裁判所の承認を得て、議会の指導者には随時更新を行うというものです。 反論としては、一度大規模監視インフラが構築されてしまうと、より道徳的でない将来の指導者たちにも利用可能になってしまうという点があります。したがって、現在の政府関係者を完全に信頼している場合であっても、大規模監視を許可することは悪い考えかもしれません。また、監視プログラムが秘密裏に行われている場合、一般市民はその侵入性が強すぎると判断する機会を得られません。 これらの広範な議論に対するある人の見解は、必然的に先週の AI 企業と連邦政府との交渉に関する思考に影響を与えることになります。 OpenAI の国家安全保障パートナーシップ責任者であるマッリガン氏は、防衛業界との強い結びつきを持っています。彼女の LinkedIn ページによると、2013 年にはオバマ政権で働いており、「スノーデンの暴露に対するメディアおよび公共政策への対応」を主導したとされています。2024 年、彼女はジョー・バイデン政権下で陸軍長官を務めていたクリスティーン・ワームースと共にテイラー・スウィフトのコンサートでセルフィーを撮影しました。そのため、既存の法律が AI の濫用を防ぐのに十分だと主張するペンタゴンの高官たちを信じるマッリガン氏の考えは驚くべきことではありません。 アルトマン氏もまた、ペンタゴン高官たちの誠意に感銘を受けた様子です。「この点において国防総省（DoD）との一致の度合いについて、私は過大評価することはできません」と、アルトマン氏は大規模監視に関する質問への回答で記述しました。 公平を期すために、OpenAI はペンタゴンの高官たちの善意にのみ依存しているわけではありません。LinkedIn の投稿において、マッリガンは、OpenAI が「慎重な安全スタックの導入、展開アーキテクチャにおける制限、そして重要な AI 利用事例における AI 専門家の直接関与を含む多層的なセーフガード」を実装していると記述しました。OpenAI は、問題のある要求に対して拒否するようにモデルを訓練すると述べています。また、セキュリティクリアランスを持つエンジニアが軍と直接連携し、その活動が合法であることを確保する体制も整えます。 この戦略が OpenAI のモデルの誤用を防ぐ上でどれほど効果的であるかは、実際にはわかりません。もし政府が大規模監視プログラムを設立した場合、作業を多数のモデルインスタンスに分割するのは自然な流れです。もしそれが行われた場合、単一のインスタンスが、自分が大規模監視プログラムの一部に参加していることに気づくのに十分な文脈を持っているとは必ずしも明らかではありません。 また、OpenAI の前方展開されたエンジニアたちが政府が行っていることを理解する可能性は否定できませんが、機密プログラムに対して内部告発を行うよう求めるのは、彼らのキャリアを損なう恐れがあり、さらには法的責任に問われる可能性さえあるため、非常に過酷な要求です。 企業が防衛機関を基本的に信頼できると判断し、正当に選出された大統領とその上院確認を受けた部下の政策決定を再検討することは適切ではないと考えることは、決して狂気ではありません。しかし私の見解では、OpenAI が Anthropic とは異なる立場をとっているという事実について、より率直であるべきだったでしょう。 キラーロボットについてはどうでしょうか？ これまでに私は主に大規模監視に焦点を当ててきましたが、Anthropic と OpenAI はどちらも、自社のモデルが完全自律型兵器で使用されることに反対していることを一貫して表明しています。これは将来非常に重要な課題になると予想されますが、短期的にはその重要性はそれほど高くないと考えます。自律型兵器用の AI モデルは、高速で小型であり、空間推論に優れている必要があります。 そのような AI モデルを構築することは確かに可能です — 例えば Waymo は自律性向けに最適化されたモデルの開発に取り組んでいます — しかし、現在の最先端モデルは、このタスクには適していません。ドローンやその他のモバイルデバイス内に収めるには計算資源が多すぎます。また、正確なリアルタイム標的指定のために最適化されてもいません。 将来的には、数千機あるいは数百万機のドローンを有する群れが登場するかもしれません。しかし、米国はまだそのような群れを持っていないだけでなく、最先端モデルは、そのような大規模な艦隊を効率的に管理するにはまだ十分ではないようです。 したがって、企業の自律兵器に関する言説の実践的・短期的な重要性は限定的に見える。とはいえ、OpenAI の自律ロボットに関する言説は、大量監視に関する同社の言説と同様に無力である。 契約書には「法律、規制、または国防総省の方針が人間の制御を要求するあらゆる場合において、AI システムは自律兵器を独立して指揮するために使用されない」と記されている。また、「自律型および半自律型システムにおける AI のいかなる使用も、展開前に現実的な環境で意図通りに機能することを確保するため、厳格な検証、妥当性確認、およびテストを経なければならない」と付け加えている。 これは完全自律型兵器の禁止には程遠いものである。米国法が現在、完全自律型ドローンを禁止していると広く誤解されているが、昨年の記事でマイケル・ホロウィッツはこれが事実ではないと説明している。 購読する Anthropic とペンタゴンの対決 今週末、Anthropic とペンタゴンとの交渉に関する新たな詳細も明らかになった。例えば、日曜日の報道で、The Atlantic のロス・アンダーソンは、ペンタゴンが「Anthropic の AI を国内での大量監視や完全自律型殺戮兵器に使用しないことを約束するが、その約束には『適切と判断される場合』といった抜け道となる表現を付加し、条件が変更される可能性があることを示唆している」と記した。 ついにペンタゴンはこれらの条件付き条項の撤廃に合意したが、「ペンタゴンは依然として、同社の AI を用いて米国人から収集された大量データを分析したいと考えていた」——GPS 座標、クレジットカード取引、Google の検索結果などがその対象である。最終的に、両者は金曜日に設けられたペンタゴン側の期限までに合意に至らなかった。 ニューヨーク・タイムズ紙の日曜日の報道によると、金曜日の午後時点で、当事者間の争点は「合法的な監視に関する問題について数語」のみであったという。しかし、交渉を主導するペンタゴンの担当官であるエミル・マイケル氏がアモデイ氏に連絡し、最適な文言を協議しようとしたところ、「アモデイ氏は会議中で、すぐに電話に出られない」と告げられた。 日曜日の夜、マイケル氏から投稿されたツイートは、政府による監視が「適切な場合」という表現とともに、交渉の主要な難点であったことを裏付けるものとなったように見えた。 しかし、彼は議論をやや異なる形で描き、「アンソロピック側は、[国防総省] の全従業員が LinkedIn 検索を行えないような文言を求めていた」と主張した。さらに、「彼らは、例えば軍人の募集や新規雇用の採用を可能にするような*公的*データベースを国防総省（DoW）が使用することを阻止したいと考えていた」と付け加えた。 ペンタゴンは、同時に OpenAI と新たな契約を策定中だったという点で交渉の優位性を持っていました。このプロセスは、マイケルが先週水曜日にアルトマンに電話した際に始まりました。「1 日以内に、彼らは粗筋となる枠組みを起草しました」とタイムズ紙は報じています。OpenAI の融通の利く姿勢は、おそらくマイケルが Anthropic との交渉において強硬な立場をとることを容易にしたのでしょう。 土曜日、私はミネソタ大学の法学教授であるアラン・ロゼンシュタインに、ペンタゴンが Anthropic をサプライチェーン上のリスクとして指定する計画について話を聞きました。彼は、トランプ政権がこの措置を裁判所に認めてもらうためには困難な戦いを強いられるだろうと語りました。 ロゼンシュタイン氏は、ペンタゴンはおそらく 2011 年に制定された「セクション 3252」と呼ばれる法律を援引する可能性が高いと述べました。この法律は外国企業を対象に使用されることを意図したものであり、Anthropic のように米国に拠点を置く企業にも適用されるのかどうかは明確ではありません。 「私は探し回り、研究助手にも探させたが、この法令に関する anything は見つからなかった」と彼は私に語りました。「実際に使われている事例も見つかりません。」 彼は、このような仕組みを米国の企業に対して用いるのは前例がないと指摘しました。さらに、交渉過程で指定を脅しとして使用するという決定は、政府の根拠が形式的なものであることを裁判所に示唆する可能性があると述べました。 Rozenshtein 氏もまた、Hegseth 氏が掲げるルール — すなわち「どの政府契約業者も Anthropic と『いかなる商業活動』を行ってはならない」という規定 — があまりにも広範すぎると考えています。もしこの法律が適用されるなら、おそらく軍事契約に関する企業の業務にのみ限定されて適用されるでしょう。これは、連邦政府との取引を多数行っている一方で Anthropic にも数十億ドル規模の投資を行っている Amazon にとっては救いとなるはずです。Hegseth 氏の法律解釈が正しければ、Amazon は多くの懸念を抱えることになります。しかし同社の株価は先週ほぼ横ばいで推移しており、これは投資家たちがこの問題を深刻な脅威とは考えていないことを示唆しています。 私は Anthropic の原則に基づく姿勢を称賛しますが、最終的には強力な契約上の制限があったとしても、それほど大きな違いを生むことはなかったのではないかと確信が持てません。すでにペンタゴンは xAI との間に、AI の軍事利用に対する制限をほとんど設けていない契約を結んでいます。さらに、オープンウェイトモデルはすでに多くの監視活動に十分実用可能であり、今後数ヶ月から数年のうちに、より多くの用途にも適するようになるでしょう。 実際、Dario Amodei 氏自身も、AI モデルの濫用を防ぐための契約上の合意はあくまで暫定的な解決策に過ぎないと信じています。 「長期的には、実際にはそれが議会の役割だと私は信じています」とアモデイ氏は土曜日のCBSでのインタビューで述べました。彼は議会に対し、「国内の大量監視を制限する法律を整備して追いついてほしい」と呼びかけました。そして、これがアンソロピック社と国防総省との戦いの究極的に最も重要な成果となる可能性があります：AI の危険な応用について、一般市民、ひいては彼らを通じて選ばれた代表者たちが焦点を当てるようにすることです。 1DoW は「Department of War（戦争省）」の略で、ドナルド・トランプが国防総省に好んで使用する名称です。

ペンタゴンとOpenAIの画期的な契約、その解説

背景や根拠まで確認しますか？

このニュースを、実務の判断につなげる

調べる

選ぶ

サイト