ダリオ・アモデイ氏による国防総省との協議に関する声明
AnthropicのCEO Dario Amodeiは、国防総省との協力でAIモデルClaudeを国家安全保障に活用している一方、大量国内監視と完全自律兵器の2つの用途には反対する立場を表明した。
キーポイント
国家安全保障へのAI積極的導入
Anthropicは米国政府の機密ネットワークや国家研究所に自社のAIモデルを初めて導入し、国防総省などで情報分析や作戦計画などのミッションクリティカルな用途にClaudeを広く展開している。
米国のAI優位性維持のための自主的措置
短期的な収益を犠牲にして、中国共産党関連企業によるClaudeの利用を遮断し、強力な半導体輸出規制を提唱するなど、米国の民主主義的優位性を守る行動を取っている。
大量国内監視への明確な反対
合法的な対外諜報・防諜任務でのAI利用は支持するが、民主主義的価値観と相容れない大量国内監視には反対し、現在の法律がAIの急速な能力向上に追いついていないと指摘している。
完全自律兵器の使用制限
ウクライナで使用されているような部分的自律兵器は民主主義防衛に不可欠と認めつつ、完全自律兵器の使用には反対する立場を示している。
影響分析・編集コメントを表示
影響分析
この声明は、AI企業が単なる技術提供者を超えて、国家安全保障政策の形成に影響を与えるアクターとして台頭していることを示している。特に、企業が自発的に収益機会を制限して倫理的境界線を設定する姿勢は、AI業界全体のガバナンスモデルに影響を与える可能性が高い。
編集コメント
AI企業のCEOが国家安全保障と民主主義的価値観のバランスについて公に議論するのは極めて異例であり、業界の成熟度を示す重要なマイルストーンと言える。
国防総省との協議に関するダリオ・アモデイの声明
私は、AIを活用してアメリカ合衆国やその他の民主主義国を防衛し、独裁的な敵対勢力を打ち負かすことが、存亡に関わるほど重要であると深く信じています。
そのため、Anthropicは積極的に国防総省や情報機関に当社のモデルを導入する取り組みを行ってきました。当社は、米国政府の機密ネットワークにフロンティアAI企業として初めてモデルを導入し、国立研究所に初めて導入し、国家安全保障顧客向けにカスタムモデルを初めて提供しました。Claudeは、情報分析、モデリングとシミュレーション、作戦計画、サイバー作戦など、ミッションクリティカルな用途のために、国防総省をはじめとする国家安全保障機関に広く導入されています。
Anthropicはまた、たとえそれが会社の短期的利益に反する場合であっても、アメリカのAIにおける優位性を守るための行動をとってきました。当社は、中国共産党に関連する企業（その一部は国防総省によって中国軍関連企業として指定されています）によるClaudeの利用を遮断するために数億ドルの収入を放棄する選択をし、Claudeを悪用しようとした中国共産党後援のサイバー攻撃を遮断し、民主主義陣営の優位性を確保するための強力な半導体輸出規制を提唱してきました。
Anthropicは、軍事上の決定を下すのは民間企業ではなく国防総省であることを理解しています。当社は特定の軍事作戦に異議を唱えたことも、当社の技術の利用をその場限りの方法で制限しようとしたこともありません。
しかし、ごく一部のケースにおいて、AIは民主主義的価値観を防衛するどころか損なう可能性があると当社は考えています。また、いくつかの用途は、単純に現在の技術が安全かつ確実に行える範囲を超えています。以下の2つのユースケースは、当社が国防総省と結んだ契約には一度も含まれたことがなく、現在も含めるべきではないと考えています：
大規模国内監視。当社は、合法的な対外諜報や防諜任務のためにAIを利用することは支持します。しかし、これらのシステムを大規模国内監視に使用することは、民主主義的価値観と相容れません。AI駆動の大規模監視は、我々の基本的自由に対する深刻で新たなリスクをもたらします。そのような監視が現行法上合法であるとしても、それは法律がAIの急速に高まる能力にまだ追いついていないからに過ぎません。例えば、現行法の下では、政府は令状を取得することなく、公開情報源からアメリカ国民の移動、ウェブ閲覧、交友関係の詳細な記録を購入することができ、この慣行は情報機関自身がプライバシー上の懸念を生じさせると認めており、議会では超党派の反対を生んでいます。強力なAIは、この散在し個々には無害なデータを、自動的かつ大規模に、あらゆる個人の生活の全体像へと組み上げることを可能にします。
完全自律兵器。今日ウクライナで使用されているような部分的自律兵器は、民主主義の防衛に不可欠です。完全自律兵器（人間を判断回路から完全に外し、目標の選択と交戦を自動化するもの）でさえ、我が国の防衛にとって極めて重要であることが証明されるかもしれません。しかし、現在のフロンティアAIシステムは、完全自律兵器を駆動するには単に信頼性が十分ではありません。当社は、アメリカの戦闘員や民間人を危険にさらす製品を故意に提供することはありません。当社は、これらのシステムの信頼性を向上させるための研究開発を国防総省と直接協力して行うことを申し出ましたが、彼らはこの申し出を受け入れていません。さらに、適切な監視がなければ、完全自律兵器は、我が国の高度に訓練されたプロの軍隊が日々示すような重大な判断を行使できるとは信頼できません。それらは、今日存在しない適切なガードレールと共に配備される必要があります。
当社の知る限り、これら2つの例外事項は、これまでのところ我が国軍隊内での当社モデルの採用と使用を加速させる障壁とはなっていません。
国防総省は、「いかなる合法的な用途」にも同意し、上記のケースにおけるセーフガードを解除するAI企業とのみ契約すると述べています。彼らは、当社がこれらのセーフガードを維持するなら、当社を彼らのシステムから排除すると脅し、また、当社を「サプライチェーンリスク」——米国の敵対勢力にのみ適用され、これまでアメリカ企業に適用されたことのないレッテル——に指定し、国防生産法を発動してセーフガードの解除を強制すると脅しています。この後者の2つの脅威は本質的に矛盾しています：一方は当社を安全保障上のリスクとレッテル貼りし、もう一方はClaudeを国家安全保障に不可欠としているのです。
いずれにせよ、これらの脅威は当社の立場を変えるものではありません。当社は良心に従って彼らの要求に同意することはできません。
彼らのビジョンに最も合致する請負業者を選択することは、国防総省の特権です。しかし、Anthropicの技術が我が国軍隊に提供する相当な価値を考慮すれば、彼らが再考することを望みます。当社の強い希望は、要請した2つのセーフガードを維持したまま、国防総省と我が国の戦闘員にサービスを提供し続けることです。国防総省がAnthropicをオフボードすることを選択した場合、当社は別のプロバイダーへの円滑な移行を可能にするために働き、進行中の軍事計画、作戦、その他の重要な任務へのいかなる混乱も避けるようにします。当社のモデルは、必要とされる限り、当社が提案した広範な条件の下で利用可能です。
当社は、アメリカ合衆国の国家安全保障を支援するための当社の仕事を続ける準備ができています。
関連コンテンツ
Firefoxのセキュリティ向上のためのMozillaとの提携
国防総省との現状
ダリオ・アモデイからの声明
ピート・ヘグセス国防長官のコメントに関する声明
国防長官へのAnthropicの回答と顧客へのアドバイス
原文を表示
Statement from Dario Amodei on our discussions with the Department of War
I believe deeply in the existential importance of using AI to defend the United States and other democracies, and to defeat our autocratic adversaries.
Anthropic has therefore worked proactively to deploy our models to the Department of War and the intelligence community. We were the first frontier AI company to deploy our models in the US government’s classified networks, the first to deploy them at the National Laboratories, and the first to provide custom models for national security customers. Claude is extensively deployed across the Department of War and other national security agencies for mission-critical applications, such as intelligence analysis, modeling and simulation, operational planning, cyber operations, and more.
Anthropic has also acted to defend America’s lead in AI, even when it is against the company’s short-term interest. We chose to forgo several hundred million dollars in revenue to cut off the use of Claude by firms linked to the Chinese Communist Party (some of whom have been designated by the Department of War as Chinese Military Companies), shut down CCP-sponsored cyberattacks that attempted to abuse Claude, and have advocated for strong export controls on chips to ensure a democratic advantage.
Anthropic understands that the Department of War, not private companies, makes military decisions. We have never raised objections to particular military operations nor attempted to limit use of our technology in an ad hoc manner.
However, in a narrow set of cases, we believe AI can undermine, rather than defend, democratic values. Some uses are also simply outside the bounds of what today’s technology can safely and reliably do. Two such use cases have never been included in our contracts with the Department of War, and we believe they should not be included now:
Mass domestic surveillance. We support the use of AI for lawful foreign intelligence and counterintelligence missions. But using these systems for mass domestic surveillance is incompatible with democratic values. AI-driven mass surveillance presents serious, novel risks to our fundamental liberties. To the extent that such surveillance is currently legal, this is only because the law has not yet caught up with the rapidly growing capabilities of AI. For example, under current law, the government can purchase detailed records of Americans’ movements, web browsing, and associations from public sources without obtaining a warrant, a practice the Intelligence Community has acknowledged raises privacy concerns and that has generated bipartisan opposition in Congress. Powerful AI makes it possible to assemble this scattered, individually innocuous data into a comprehensive picture of any person’s life—automatically and at massive scale.
Fully autonomous weapons. Partially autonomous weapons, like those used today in Ukraine, are vital to the defense of democracy. Even fully autonomous weapons (those that take humans out of the loop entirely and automate selecting and engaging targets) may prove critical for our national defense. But today, frontier AI systems are simply not reliable enough to power fully autonomous weapons. We will not knowingly provide a product that puts America’s warfighters and civilians at risk. We have offered to work directly with the Department of War on R&D to improve the reliability of these systems, but they have not accepted this offer. In addition, without proper oversight, fully autonomous weapons cannot be relied upon to exercise the critical judgment that our highly trained, professional troops exhibit every day. They need to be deployed with proper guardrails, which don’t exist today.
To our knowledge, these two exceptions have not been a barrier to accelerating the adoption and use of our models within our armed forces to date.
The Department of War has stated they will only contract with AI companies who accede to “any lawful use” and remove safeguards in the cases mentioned above. They have threatened to remove us from their systems if we maintain these safeguards; they have also threatened to designate us a “supply chain risk”—a label reserved for US adversaries, never before applied to an American company—and to invoke the Defense Production Act to force the safeguards’ removal. These latter two threats are inherently contradictory: one labels us a security risk; the other labels Claude as essential to national security.
Regardless, these threats do not change our position: we cannot in good conscience accede to their request.
It is the Department’s prerogative to select contractors most aligned with their vision. But given the substantial value that Anthropic’s technology provides to our armed forces, we hope they reconsider. Our strong preference is to continue to serve the Department and our warfighters—with our two requested safeguards in place. Should the Department choose to offboard Anthropic, we will work to enable a smooth transition to another provider, avoiding any disruption to ongoing military planning, operations, or other critical missions. Our models will be available on the expansive terms we have proposed for as long as required.
We remain ready to continue our work to support the national security of the United States.
Related content
Partnering with Mozilla to improve Firefox’s security
Where things stand with the Department of War
A statement from Dario Amodei.
Statement on the comments from Secretary of War Pete Hegseth
Anthropic's response to the Secretary of War and advice to customers.
関連記事
今日のまとめ
AI日報で今日の重要ニュースをまとめ読み