政府および国家安全保障パートナーシップへの当社のアプローチ
OpenAI は政府や国家安全保障機関との提携方針について、透明性の確保と責任ある開発を最優先する立場を明確に示した。
キーポイント
提携の原則と透明性
政府機関との連携においては、その目的や内容を可能な限り公開し、国民への説明責任を果たすことを基本方針としている。
国家安全保障における役割分担
AI の開発・運用と、その応用による安全保障上の判断は明確に分離され、OpenAI は技術的基盤の提供に留まる姿勢を示した。
倫理的枠組みの厳守
いかなる提携においても、AI の安全性やバイアス排除といった倫理基準を妥協せず、規制当局との継続的な対話を重視する。
影響分析・編集コメントを表示
影響分析
この発表は、AI 業界が政府・軍事機関との関係性をどう構築するかという重要な指針となり、特に「開発者」と「意思決定者」の役割分離を明確にすることで、AI の暴走や倫理的問題への懸念を和らげる効果がある。一方で、国家安全保障分野での AI 活用が進む中で、民間企業がどの程度まで関与すべきかという業界全体の議論を再燃させる契機となるだろう。
編集コメント
政府との連携を巡る OpenAI の姿勢は、業界全体が直面する「セキュリティと倫理のバランス」課題に対する一つの回答と言えます。技術開発の独立性を保ちつつ公共の利益に貢献する道筋を示す重要な声明です。
政府は、国家安全保障を含むますます重要な業務において、最先端の AI システムの利用を開始しています。これにより、これらのツールを敏感な環境で使用する方法について、AI ラボ、政府、市民社会が協力して取り組む新たな必要性が生じています。
民主主義社会は、人々を守り、重要インフラを防衛し、公共サービスを提供し、サイバー防衛や生物セキュリティなどにおいて AI が防御側に明確な優位性をもたらす分野を含む新興脅威に対応するために、AI を活用できるべきだと私たちは考えます。しかし、能力が向上する AI システムは、民主主義的な説明責任を強化し、実質的な人間の判断と法の支配を支え、権力を集中させるのではなく民主主義制度を強化する方法で導入される必要があります。
本日、OpenAI は、政府とのパートナーシップや国家安全保障における技術利用への私たちのアプローチについて透明性を提供するため、「OpenAI の国家安全保障原則」を発表します。
これらの原則は、技術がさらに進展する中で、国家安全保障および法執行分野での取り組みに対するより包括的なアプローチを開発するための企業横断的な取り組みを反映したものです。私たちは、プロセスの促進と独立した判断の提供のために、有数の国家安全保障専門家であるデビッド・クリス氏を招き、社内で聴取会を開催し、研究や安全性から政策、政府パートナーシップまで多様なチームを代表する従業員に参画を求めました。
私たちは現在、米国政府および同盟国との重要な防衛分野、特にサイバーセキュリティとバイオセキュリティにおける協力を拡大するにあたり、これらを公開します。先月、当社の Daybreak サイバー防御プログラムの一部として、オーストラリア、カナダ、日本、大韓民国、フランス、ドイツ、ポーランド、オランダ、および ENISA などの EU 機関との間で、「サイバーにおける信頼されたアクセス（Trusted Access for Cyber）」パートナーシップをすでに確立しました。また、英国政府とは、サイバー分野やテスト・評価に関する信頼できるパートナーシップを拡大しています。バイオセキュリティにおいても同様のアプローチを採用しています。先月には、公衆衛生および生物防衛ミッションを支援する特定の米国政府および同盟国向けに、GPT-Rosalind モデルへの「信頼されたアクセス」の範囲を拡大したことも発表しました。
これらの原則は、現在のおよび将来の国家安全保障・法執行機関とのパートナーシップ、既存の国防総省（Department of War）との協力にも適用されます。今年初めに合意を発表した際、私たちはいくつかの契約上の制限を明確にしました：OpenAI の技術を用いた大規模な国内監視の実施禁止、自律型兵器システムの指揮への使用禁止、および高リスクの自動化された意思決定への使用禁止です。これらの制限は、本日共有する原則と整合しています。
私たちは、自社の技術がどのように利用可能であり、またどのように利用できないのかを明確にし、透明性を保つことが正しい行為であると信じています。しかし、政府、特に国家安全保障における AI に関する最も重要な問いの多くは、民主的なプロセスを通じて答えられるべきです。私たちのような企業の役割は、その決定を単独で行うのではなく、それらの意思決定を支援することにあります。そのため、国内監視、自律型兵器システム、および米国の国家安全保障に直接影響を与えるその他の高リスクな利用など、AI の最もリスクの高い軍事利用の一部に関するセーフガードを確立するための立法努力を支持しています。
原文を表示
Governments are beginning to use frontier AI systems for increasingly important work, including in national security. That creates new imperatives for AI labs, governments, and civil society to work together on how these tools should be used in sensitive settings.
We believe democratic societies should be able to use AI to protect people, defend critical infrastructure, deliver public services, and respond to emerging threats, including in areas like cyber defense and biological security where AI can meaningfully advantage defenders. But increasingly capable AI systems must be deployed in ways that reinforce democratic accountability, meaningful human judgment, and the rule of law, and that strengthen democratic institutions rather than concentrate power.
Today we are publishing OpenAI’s National Security Principles to offer transparency into how we approach government partnerships and national security uses of our technology.
These principles reflect a cross-company effort to develop a more comprehensive approach to our work in the national security and law enforcement area as our technology continues to advance. We engaged a leading national security expert, David Kris, to help facilitate the process and provide his independent judgment, held listening sessions across the company, and engaged employees representing a range of teams from research and safety to policy and government partnerships.
We are publishing them now as we expand our work with the U.S. government and allied partners in critical defensive areas, particularly cyber and biosecurity. In the past month, as part of our Daybreak cyber defense program, we have already established Trusted Access for Cyber partnerships with Australia, Canada, Japan, Republic of Korea, France, Germany, Poland, the Netherlands and EU institutions like ENISA. We also have a growing and trusted partnership with the UK government around cyber, testing and evaluation. We are taking a similar approach in biosecurity. Last month, we also announced expanded trusted access to our GPT‑Rosalind model for select U.S. government and allied partners supporting public health and biodefense missions.
These principles apply to our current and future national security and law enforcement partnerships, including our existing work with the Department of War. When we announced our agreement earlier this year, we articulated several contractual restrictions: no use of OpenAI technology for mass domestic surveillance, no use of OpenAI technology to direct autonomous weapons systems, and no use of OpenAI technology for high-stakes automated decisions. Those restrictions are consistent with the principles we are sharing today.
We believe the right thing to do is to be clear about how our technology can and cannot be used, and to be transparent about them. But many of the most consequential questions about AI in government, especially in national security, should be answered through the democratic process. The role of companies like ours is to help inform those decisions, not make them alone. That is why we support legislative efforts to establish safeguards around some of the highest-risk military uses of AI, including in the contexts of domestic surveillance, autonomous weapons systems, and other high-risk uses that directly affect U.S. national security.
関連記事
今日のまとめ
AI日報で今日の重要ニュースをまとめ読み