信頼できる AI エコシステムの確保に向けた欧州の取り組みへの支援

人々は、AI を用いてコンテンツを新たな方法で作成・編集しています。これらのツールがより高度になり、広く利用されるにつれ、オンライン上で目にするコンテンツについて、人々がその背景を理解できることが重要です。 本日、欧州委員会の「生成 AI コンテンツの透明性に関する行動規範」(新しいウィンドウで開く) の公表を受け、OpenAI はこの行動規範およびその背後にある野望への支援を発表します。この行動規範は、EU AI 法の実施と、より透明性の高いデジタルエコシステムの構築に向けた重要な一歩です。 私たちの支援は、生成 AI コンテンツの出自（プロベナンス）を強化するための長年にわたる社内研究、製品開発、および広範なエコシステムとの協力に基づいています。OpenAI は 2024 年より DALL-E 3 の画像生成ツールに C2PA メタデータを追加し始めて以来、[オンライン上で目にするものや聴くものの出自を理解する](https://openai.com/index/understanding-the-source-of-what-we-see-and-hear-online/)ために、出自の標準化の策定と採用を進めてきました。それ以降も、マーク付けおよび検出手法の改善、新たな研究、そして[初の公開検証ツールのリリース](https://openai.com/index/advancing-content-provenance/)を通じて、出自の強化を続けています。長年の専門知識を活かし、私たちは数百もの他の利害関係者と共にこの行動規範の開発に貢献し、信頼性の高い AI エコシステムの確保を目指しました。 これは、欧州における AI ガバナンスに関する私たちのより広範なアプローチに基づいています。2025 年、OpenAI は最初の米国企業として [EU の一般目的 AI コード・オブ・プラクティス（新しいウィンドウで開く）](https://digital-strategy.ec.europa.eu/en/policies/contents-code-gpai) に署名しました。これは、明確で実務的なルールが、企業が確信を持って開発を続ける一方で、AI が責任ある形で発展するのを支援できるという私たちの信念を反映したものです。私たちはこの新しいコードを同じ精神で支持しています。AI 生成コンテンツの透明性を高めることは、バリューチェーン全体に関わるすべてのアクターからの貢献を必要とするエコシステム全体の取り組みです。EU AI 法およびこのコードはこれを認識しており、関連する製品に適用される要件を遵守することで、私たちが果たすべき役割を果たすことにコミットしています。 ## なぜプロベナンス（出所証明）が重要なのか AI ツールが人々の構築、想像、共有の方法の一部となるにつれ、コンテンツの由来を理解し、自信を持って解釈できることが重要です。プロベナンス信号は、コンテンツのソース、その作成または編集方法、そしてそれが主張する通りのものであるかどうかについての文脈を提供することで、これを支援できます。また、プロベナンスは、偽情報キャンペーンを検出しやすくし、[選挙の健全性を支える](https://openai.com/index/election-safeguards-2026/) ことで、デジタルエコシステムを保護する手助けもします。 効果的かつ信頼性が高く、堅牢な出所証明手法は、生態系全体で協力して構築され、生態系全体で機能するべきです。そのため、ニュース組織、デバイスメーカー、オンラインプラットフォーム、AI プロバイダーを集結し、相互運用可能な標準を推進する C2PA などの連合と連携しています。C2PA メタデータは出所証明の重要な基盤です。これは、コンテンツがその起源、作成・編集方法、および情報の署名者に関する情報を保持することを可能にします。しかし、メタデータは完全には信頼できません。アップロードやダウンロードの際に削除されたり失われたり、ファイル形式の変更、リサイズ、スクリーンショットといった変換処理によって破損したりする可能性があります。 ## 出所証明に対する OpenAI の多層アプローチ 出所証明をより強靭にするため、OpenAI は異なるシグナル、製品上の安全対策、および広範な生態系全体での協力を組み合わせた多層アプローチを採用しています。現在の取り組みには以下が含まれます： - C2PA Content Credentials（画像用コンテンツ認証情報）：ChatGPT および OpenAI API で DALL·E 3 によって作成・編集された画像に C2PA メタデータを付与し始め、OpenAI が生成した画像全体で出所情報の信号を拡大し続けています。 - OpenAI 生成画像に対する複数の信号：ChatGPT、Codex、および OpenAI API を用いて生成された画像には、C2PA メタデータと SynthID ウォーターマークの両方が含まれています。メタデータはより豊富な情報を運ぶことができますが、ウォーターマーク化は文脈を超えて信号を維持するのに役立ちます。 - 公開検証体験：openai.com/verify を通じて、対応する画像に OpenAI 生成画像に関連付けられた出所情報が含まれているかどうかを確認できます。 - オープン標準への貢献。2024 年、OpenAI はソフトウェア企業、カメラメーカー、メディア組織、オンラインプラットフォームが関わる業界横断的な取り組みである C2PA スティアリング・コミッティーに参加しました。 - プロダクトのセーフガード：出所情報は、AI 生成コンテンツの欺瞞的利用（顔写真の不正使用や選挙関連の誤情報など）を減らすためのポリシー、分類器、報告チャネル、および執行プロセスを補完するものです。 実践的なコンテンツ透明性の実現 証明可能性は有用ですが、まだ発展途上の分野です。コンテンツがオンライン上で移動する際にシグナルが失われる可能性があります：メタデータが削除されたり、透かしが劣化したり、ラベルは人がコンテンツに遭遇した場合にのみ役立ちます。証明可能性技術の信頼性、堅牢性、相互運用性を高めるには、依然として生態系全体での多大な努力と協力が不可欠です。 行動規範は正しい方向を示しています：証明可能性技術を推進するための高い野望です。実装にあたっては、実践で機能する手法に基づきつつ、現在の技術の限界を反映できる柔軟さを保つべきです。 OpenAI は、製品全体にわたるコンテンツの透明性を強化し続け、相互運用可能な標準の開発に貢献し、検証ツールの改善を図ります。より安全で透明性の高い AI エコシステムを構築するため、AI オフィス、加盟国、および広範な AI コミュニティと連携していくことを楽しみにしています。

背景や根拠まで確認しますか？

関連記事