より安全で透明性の高い AI エコシステムのためのコンテンツ証明の推進（6 分読了）
OpenAI は、C2PA 標準への準拠や Google との共同による SynthID 水埋め込みの実装などを通じて、生成コンテンツの真正性を保証する多層的なエコシステムを強化した。
キーポイント
C2PA 標準への完全準拠
OpenAI は C2PA（コンテンツ真正性と信頼性連合）のステアリングコミッティに参加し、DALL·E 3 や ImageGen など生成画像にメタデータと暗号署名を組み込んだ「Content Credentials」を付与する標準化を進めている。
Google との共同による SynthID 実装
Google と提携し、画像に永続的なクロスプラットフォーム対応の水埋め込み（SynthID）を追加することで、他プラットフォーム間でも OpenAI 生成コンテンツを識別可能にする機能を強化した。
一般向けの検証ツールの公開
ユーザーが画像が OpenAI によって生成されたものかどうかを検証できるツールを公開し、情報の信頼性を高めるための透明性向上策の一環として位置づけている。
影響分析・編集コメントを表示
影響分析
この発表は、生成 AI の普及に伴うディープフェイクや誤情報の拡大に対する業界全体の対応策として、技術的な標準化と実装を具体化した重要な転換点です。OpenAI が単独の対策から C2PA や Google と連携したエコシステム型のアプローチへ移行したことは、今後の AI 生成コンテンツの認証基準を決定づける可能性が高く、プラットフォーム間の相互運用性を高める上で大きな意味を持ちます。
編集コメント
OpenAI が他社との連携を強化し、業界標準への準拠を前面に出した点は、生成 AI の信頼性確保において「独自技術」から「共通基盤」へシフトする重要な信号です。
人々は毎日、OpenAI のツールを使用して画像やオーディオを作成・編集しており、それによってコミュニケーションがより表現豊かになり、有用かつアクセスしやすくなっています。これらのツールが人々の構築・想像・共有の方法の一部となるにつれ、メディアの由来を理解し検証できることが重要となり、それによりより自信を持って解釈できるようになります。プロベナンス（出所）シグナルは、コンテンツの由来、作成または編集方法、そして主張通りのものであるかどうかについての文脈を提供することで、これを支援します。
本日、私たちはオンラインでの信頼構築に向けた多層的でエコシステム主導のアプローチを強化し、C2PA 準拠を通じて他のツールやプラットフォームがプロベナンスシグナルを認識しやすくするとともに、Google とのパートナーシップにより画像に永続的なクロスプラットフォーム SynthID 透かしを追加し、OpenAI 生成の画像かどうかを検証するために一般ユーザーが使用できるツールのプレビューも共有します。
これらの更新は、オープン標準のサポート、OpenAI 生成コンテンツの識別容易化、そしてより信頼性の高い情報エコシステムを支えるための業界全体での協力に向けた、私たちの 以前の取り組み に基づいています。
C2PA 準拠を通じた信頼エコシステムの構築
OpenAI は、2024 年に DALL·E 3(新しいウィンドウで開く) で生成された画像にコンテンツ認証情報を追加し始め、その後 ImageGen(新しいウィンドウで開く) や Sora(新しいウィンドウで開く) にも追加し始めた際以来、認証情報の標準化の開発と導入に取り組んできました。また、コンテンツの真正性に関するクロス業界団体であり、コンテンツの真正性を示すためのオープンな技術基準を策定している Coalition for Content Provenance and Authenticity (C2PA) の運営委員会に参加しました。C2PA の技術的アプローチでは、メタデータと暗号署名を用いて、メディア作品に関する情報をそのコンテンツ自体と共に安全に伝達できるようにしています。この情報には、ソースを評価するジャーナリスト、整合性に関する判断を行うプラットフォーム、オンライン上で何を見ているのかを理解しようとする人々を支援するための文脈が含まれています。
私たちは最近、OpenAI を C2PA 準拠生成製品(新しいウィンドウで開く) とする措置を講じました。C2PA に準拠することで、プラットフォームに対して、私たちがコンテンツに付与した真正性情報を読み取り、保存し、引き継ぐための信頼できる手段を提供しています。これは重要です。なぜなら、真正性が機能するためには、コンテンツが最初に作成されたプラットフォームを超えて維持されなければならないからです。そして、この準拠によってそれが可能になります。
C2PA メタデータと Google SynthID を用いた多層的な真正性アプローチ
C2PA メタデータは、真正性の重要な基盤です。これは、コンテンツがどこから来たのか、どのように作成または編集されたのか、またその情報を誰が署名したのかという情報をコンテンツに付与する役割を果たします。しかし、メタデータだけで完全に安全であるとは限りません。アップロードやダウンロードの過程で失われたり、ファイル形式の変更、リサイズ、スクリーンショットといった変換処理によって破損したりする可能性があります。
真正性をより強靭なものにするため、私たちは多層的なアプローチを採用し、画像生成において Google DeepMind の SynthID(新しいウィンドウで開く) を用いた透かし埋め込みを統合しています。まずは、ChatGPT、Codex、または OpenAI API を通じて生成された画像から開始します。SynthID は、C2PA メタデータに基づくアプローチを補完する、目に見えない透かし埋め込み層を組み込む技術です。
私たちはこれに向けて長期間取り組んできました。Sora には 可視透かし を、Voice Engine には 音声透かし を実装し、運用を通じてその精度と信頼性を継続してテスト・研究してきました。
これらの 2 つのシステムは互いに補完し合っています。C2PA はコンテンツに詳細な文脈を付与し、SynthID はメタデータが失われた場合でもシグナルを保持します。ウォーターマークはスクリーンショットのような変換処理を通じてより耐久性を持ち、一方、メタデータはウォーターマーク単独では提供できない情報を付加できます。これらを組み合わせることで、どちらか片方の層だけでは実現できないほど、出所証明（プロベナンス）の耐性を高めることができます。
検知機能と公開検証ツールのプレビュー
主要な改変に耐える信頼できるメタデータやウォーターマークは、出所証明シグナルの耐久性を向上させます。しかし、人々にはこれらのシグナルを検出する手段が必要です。現在、公開検証ツール のプレビューを開始しており、アップロードされた画像が ChatGPT、OpenAI API、または Codex で生成されたものかどうかを確認できるよう支援します。このツールは、コンテンツ証明書（Content Credentials）や SynthID を含む出所証明シグナルが含まれているかどうかに基づいて検証を行います。
私たちは、出所証明を人々がより容易に検証・解釈できるべきだと考えており、複数のシグナルを統合することで、「これは AI で生成されたものですか？」という問いに対して人々自身が回答する役割を果たせるよう支援できると信じています。これは 2024 年に公開した画像検知分類器 の初期研究プレビューからの教訓に基づいたものであり、OpenAI に由来する SynthID ウォーターマークがメディアに含まれているかどうかを確実に検出できるだけでなく、見つかった場合には C2PA メタデータも表示可能にします。
検出手法に完全な信頼性は存在しないため、検出が失敗したケースでは慎重なアプローチを採用しています。例えば、メタデータや透かしが検出されない場合、プロベナンス信号が何らかの理由で削除されている可能性があるため、ツールは画像が OpenAI のツールによって生成されたかどうかについて断定した結論を下すことはありません。
リリース当初、本ツールは OpenAI によって生成されたコンテンツに限定されています。今後数ヶ月の間、プラットフォーム間での検証を可能にするための業界横断的な取り組みをサポートすることを目指しています。時間の経過とともに、オンライン上で遭遇する可能性のあるより多様な種類のコンテンツのサポートも期待されます。
今後の展望
単一のプロベナンス技術だけでは不十分です。私たちは、共有された標準規格、耐久性の高い透かし信号、そして公開検証を組み合わせた強力なアプローチが必要だと考えています。Content Credentials に対する長年の支援を基盤とし、C2PA に準拠し、SynthID を採用し、公開検証ツールのプレビューを行うことで、将来的にはより相互運用性の高いプロベナンスエコシステムに貢献できることを願っています。
原文を表示
People are using OpenAI’s tools everyday to create and edit images and audio in ways that make communication more expressive, useful, and accessible. As these tools become a part of how people build, imagine, and share, it’s important that people can understand and verify where the media comes from so they can interpret it with more confidence. Provenance signals can help by giving people context about where content came from, how it was created or edited, and whether it is what it claims to be.
Today we’re strengthening our approach to content provenance with a multi-layered, ecosystem-driven model to building trust online. We are making our provenance signals easier for other tools and platforms to recognize through C2PA conformance, adding durable cross-platform SynthID watermarking to images through a partnership with Google, and sharing a preview of a tool the public can use to verify whether images came from OpenAI.
Together these updates build on our earlier work to support open standards, make OpenAI-generated content easier to identify, and collaborate across the industry to support a more trustworthy information ecosystem.
Building the trust ecosystem through C2PA conformance
OpenAI has been engaged in the development and adoption of provenance standards since 2024, when we began adding Content Credentials to images generated by DALL·E 3(opens in a new window) and later to ImageGen(opens in a new window) and Sora(opens in a new window). We also joined the Steering Committee of the Coalition for Content Provenance and Authenticity (C2PA), the cross-industry group behind the open technical standard for content provenance. C2PA’s technical approach uses metadata and cryptographic signatures to help information about a piece of media securely travel with the content itself. This information includes context that helps journalists evaluating a source, platforms making integrity decisions, and people trying to understand what they are seeing online.
We recently took the step of making OpenAI a C2PA Conforming Generator Product(opens in a new window). By becoming C2PA conformant, we are giving platforms a trusted way to read, preserve, and pass along the provenance information we attach to our content. This matters because provenance only works if it survives beyond the first platform where content is created, and conformance makes that possible.
A multi-layered approach to provenance with Google SynthID for images
C2PA metadata is an important foundation for provenance. It helps content carry information about where it came from, how it was created or edited, and who signed that information. But metadata is not foolproof. It can be stripped, lost through uploads and downloads, or broken by transformations like file format changes, resizing, or screenshots.
To make provenance more resilient, we are taking a multi-layered approach and incorporating watermarking through Google DeepMind’s SynthID(opens in a new window), starting with images generated through ChatGPT, Codex, or the OpenAI API. SynthID embeds an invisible watermarking layer that complements C2PA metadata-based approaches.
We’ve been building toward this for some time. We have used visible watermarks in Sora and an audio watermark in Voice Engine, and have continued to test and research accuracy and reliability over time. through deployment.
These two systems reinforce each other. C2PA helps content carry detailed context; SynthID helps preserve a signal when metadata does not survive. Watermarking can be more durable through transformations like screenshots, while metadata can provide more information than a watermark alone. Together, they make provenance more resilient than either layer would be on its own.
Detection and a preview of our public verification tool
Trusted metadata and watermarks that resist most modifications can make provenance signals more durable. But people need a way to detect these signals. We are now previewing a public verification tool that will help people verify whether an uploaded image was generated on ChatGPT, the OpenAI API, or Codex, by checking if it contains provenance signals, including Content Credentials and SynthID.
We believe provenance should be easier for people to verify and interpret, and that our tool can help people play a role in answering the question, “Was this generated with AI?” by integrating multiple signals. This builds on learnings from the initial research preview of our image detection classifier in 2024 and enables people to reliably detect whether a SynthID watermark originating from OpenAI is present in the media, as well as surface C2PA metadata when it is found.
No detection method is foolproof, so we take a cautious approach in cases when detection fails. If no metadata or watermark is detected, for example, the tool will not make a definitive conclusion about whether the image was generated with OpenAI tools since provenance signals can in some cases be stripped.
At launch, the tool is limited to content generated by OpenAI. In the upcoming months, we aim to support cross-industry efforts to make verification possible across platforms. Over time, we also expect to support more types of content that people may encounter online.
Looking ahead
No single provenance technique is enough on its own. We believe a strong approach combines shared standards, durable watermarking signals, and public verification. By building on our long-standing support for Content Credentials, becoming conformant with C2PA, adopting SynthID, and previewing public verification tooling, we hope to contribute in the long run to a more interoperable provenance ecosystem.
関連記事
今日のまとめ
AI日報で今日の重要ニュースをまとめ読み