高度な AI 向けの共通基準策定を支援
本文の状態
日本語全文を表示中
詳細モードで約5分の本文を読めます。
同じ出来事の情報源
この情報源を基点に整理
OpenAI News
OpenAI が、高度な人工知能技術の発展に伴い、業界全体で共有されるべき安全基準や規範の構築を推進する取り組みを発表した。
Continue in AI NEW LAB
このニュースを、実務の判断につなげる
AI NEW LABで、試したことや先に確認したい条件を共有できます。まずはログインなしで読めます。
AI NEW LABで論点を見るSource Article
元記事を日本語で読む
本文に関係しない購読案内、埋め込み通知、サイト内プロモーションは除いています。
能力が高まるモデルは、サイバー防御の強化や科学発見の加速、専門知識へのアクセス拡大に寄与できます。しかし、その能力が誤解されたり、安全対策が不十分だったり、政府が必要な情報を持って対応できなかったりすれば、安全性やセキュリティ上のリスクを生むことになります。これらの恩恵を安全かつ自信を持って実現するためには、ますます高度化するシステムを評価し、保護し、統治するための技術力とガバナンス能力を備えた社会制度が必要となります。
その理由の一つとして、OpenAI は Linux Foundation がホストする Appia Foundation(新しいウィンドウで開く) の設立に貢献しました。Appia は、国際基準や確立されたフレームワークを AI バリューチェーン全体における実用的な評価基準へと翻訳するための、オープンかつモジュール型の仕様を開発します。その活動は、第三者が基準への適合性を検証できる重要な信頼層の構築に寄与し、モデル、インフラストラクチャ、アプリケーションが異なる組織によって開発される際に、より明確で再利用可能な証拠を生み出すことを可能にします。この作業を通じて、Appia は国家および国際機関がお互いの成果を信頼できるようになるための共通の技術言語の創出を支援します。
私たちは、この取り組みを、高度な AI システムに必要な制度、基準、評価手法を強化するための広範な一連の活動における重要な次のステップと捉えています。
私たちの最近の 先端的 AI の民主的ガバナンスのための青写真 は、その取り組みへのロードマップを提供しています。これは、永続的な米国の枠組み、強化された「AI 基準・イノベーションセンター (CAISI: Center for AI Standards and Innovation)」、および政府全体にわたるより広範なレジリエンス戦略を求めています。また、先端的リスクが国際的な規模を持つことを認識しており、各国は互換性のある安全枠組みの開発、リスク発見事項を共有するための信頼できるチャネルの確立、事案に対する調整された対応のために協力すべきであると述べています。
国家能力と国際協力は相互に強化されるべきです。CAISI などの強力な機関は、技術的専門知識を開発し、先端的システムを評価し、独立した評価エコシステムを支えることができます。そうして構築された有能な国家機関のネットワークは、共通の方法論を確立し、信頼できる証拠を認識し、政府が共同で行動するために必要な共通の技術的理解を提供します。
標準化はそうした取り組みの中心であり、信頼できる評価実践と技術的厳密さに基づくものでなければなりません。信頼性の高い第三者評価のための共有プレイブックにおいて、フロンティア評価(frontier assessments)がますます開示すべき事項として、テスト対象システム、そのツールアクセス権と評価ハーンチス(evaluation harness)、能力を引き出すために用いられた手法、利用可能なリソース、および結果を検証するために実施されたチェックを明記しています。また、これらの原則は 米国 CAISI および英国 AISI とのテストパートナーシップを通じて実践されており、フロンティア能力評価や生物学的悪用防止策に関する彼らの取り組みが、当社のシステムにおける具体的な改善につながりました。この作業は、パフォーマンスを比較可能な方法で検証するための標準化可能な実践の基盤を創出するという重要な機能を果たしています。
これらの実践は、OpenAI のより広範な安全インフラを補完するものです。私たちの Preparedness Framework は、先進的な AI システムから生じる最も深刻なリスク(内部慣行を含む)の管理に対するアプローチを定義し運用化する際の基盤です。また、Frontier Governance Framework は、リスク評価、モデル報告、セキュリティ制御、インシデント対応、および外部専門家の意見の取り込みといった特定の規制義務に焦点を当てた公開ガバナンス文書として、そのアプローチの関連部分を適用するものです。これら二つの資料は、広範なコミットメントを検証可能で改善可能な運用慣行へと翻訳するための手助けとなります。
Appia の取り組みは、次の課題に向けられています:これらの実践を組織間、管轄区域間、およびサプライチェーン全体で相互運用可能にすることです。
これらのフォーラム(現在は Appia を含む)を通じて、私たちの目標は、先進的な開発からの教訓を、政府、企業、独立した評価者が管轄区域を超えて活用できる、オープンで技術的根拠に基づいた実践へと翻訳することにあります。
原文を表示
Increasingly capable models can strengthen cyber defense, accelerate scientific discovery, and expand access to expertise. But they can also create safety and security risks if their capabilities are misunderstood, their safeguards are inadequate, or governments lack the information they need to respond. To realize the benefits safely and confidently, societies will need institutions with the technical and governance capacity to evaluate, secure, and govern increasingly capable systems.
That is one reason OpenAI helped found the Appia Foundation(opens in a new window), hosted by the Linux Foundation. Appia will develop open, modular specifications intended to translate international standards and established frameworks into practical assessment criteria across the AI value chain. Its work can help develop a critical missing trust layer by which third parties check conformity with standards, producing clearer and more reusable evidence when models, infrastructure, and applications are developed by different organizations. In doing this work, Appia will help create a shared technical language that will allow national and international institutions to trust each other’s work.
We see this effort as an important next step in a broader body of work to strengthen the institutions, standards, and assessment practices needed for advanced AI systems.
Our recent blueprint for democratic governance of frontier AI offers a roadmap for that work. It calls for a durable U.S. framework, a strengthened Center for AI Standards and Innovation (CAISI), and a broader resilience strategy across government. It also recognizes that frontier risks are international in scope. Nations should work together to develop compatible safety frameworks, trusted channels for sharing risk findings, and coordinated responses to incidents.
National capacity and international cooperation should reinforce one another. Strong institutions such as CAISI can develop technical expertise, evaluate frontier systems, and support an independent assessment ecosystem. A network of capable national institutions can then establish shared methods, recognize trusted evidence, and give governments the common technical understanding needed to act together.
Standards are central to that effort, and they must be grounded in credible evaluation practice and technical rigor. In our shared playbook for trustworthy third-party evaluations, we set out what frontier assessments increasingly need to disclose: the system tested, its tool access and evaluation harness, the methods used to elicit capabilities, the resources available, and the checks performed to validate the results. We have also put these principles into practice through testing partnerships with US CAISI and UK AISI, whose work on frontier capability assessments and biological-misuse safeguards led to concrete improvements in our systems. This work serves an important function to create the foundation for practices that can be standardized to check performance in a comparable way.
These practices complement OpenAI’s broader safety infrastructure. Our Preparedness Framework is the foundation for how we define and operationalize our approach to managing the most serious risks from advanced AI systems, including our internal practices. Our Frontier Governance Framework applies relevant parts of that approach into a public governance document focused on specific regulatory obligations, including risk assessment, model reporting, security controls, incident response, and incorporating external expert input. Together, these artifacts help translate broad commitments into operational practices that can be validated and improved.
Appia’s work is aimed at the next challenge: making those practices interoperable across organizations, jurisdictions, and the supply chain.
Across these forums, including now through Appia, our goal is to translate lessons from frontier development into open, technically grounded practices that governments, companies, and independent assessors can use across jurisdictions.
関連記事
今日のまとめ
AIデイリーブリーフで今日の重要ニュースをまとめ読み