より安全で透明性の高い AI エコシステムのためのコンテンツ証明の推進（6 分読了）

人々は毎日、OpenAI のツールを使用して画像やオーディオを作成・編集しており、それによってコミュニケーションがより表現豊かになり、有用かつアクセスしやすくなっています。これらのツールが人々の構築・想像・共有の方法の一部となるにつれ、メディアの由来を理解し検証できることが重要となり、それによりより自信を持って解釈できるようになります。プロベナンス（出所）シグナルは、コンテンツの由来、作成または編集方法、そして主張通りのものであるかどうかについての文脈を提供することで、これを支援します。 本日、私たちはオンラインでの信頼構築に向けた多層的でエコシステム主導のアプローチを強化し、C2PA 準拠を通じて他のツールやプラットフォームがプロベナンスシグナルを認識しやすくするとともに、Google とのパートナーシップにより画像に永続的なクロスプラットフォーム SynthID 透かしを追加し、OpenAI 生成の画像かどうかを検証するために一般ユーザーが使用できるツールのプレビューも共有します。 これらの更新は、オープン標準のサポート、OpenAI 生成コンテンツの識別容易化、そしてより信頼性の高い情報エコシステムを支えるための業界全体での協力に向けた、私たちの [以前の取り組み](https://openai.com/index/understanding-the-source-of-what-we-see-and-hear-online/?utm_source=chatgpt.com) に基づいています。 ## C2PA 準拠を通じた信頼エコシステムの構築 OpenAI は、2024 年に [DALL·E 3(新しいウィンドウで開く)](https://cdn.openai.com/papers/DALL_E_3_System_Card.pdf) で生成された画像にコンテンツ認証情報を追加し始め、その後 [ImageGen(新しいウィンドウで開く)](https://cdn.openai.com/11998be9-5319-4302-bfbf-1167e093f1fb/Native_Image_Generation_System_Card.pdf) や [Sora(新しいウィンドウで開く)](https://deploymentsafety.openai.com/sora-2/provenance-and-transparency-initiatives) にも追加し始めた際以来、認証情報の標準化の開発と導入に取り組んできました。また、コンテンツの真正性に関するクロス業界団体であり、コンテンツの真正性を示すためのオープンな技術基準を策定している Coalition for Content Provenance and Authenticity (C2PA) の運営委員会に参加しました。C2PA の技術的アプローチでは、メタデータと暗号署名を用いて、メディア作品に関する情報をそのコンテンツ自体と共に安全に伝達できるようにしています。この情報には、ソースを評価するジャーナリスト、整合性に関する判断を行うプラットフォーム、オンライン上で何を見ているのかを理解しようとする人々を支援するための文脈が含まれています。 私たちは最近、OpenAI を [C2PA 準拠生成製品(新しいウィンドウで開く)](https://c2pa.org/conformance/) とする措置を講じました。C2PA に準拠することで、プラットフォームに対して、私たちがコンテンツに付与した真正性情報を読み取り、保存し、引き継ぐための信頼できる手段を提供しています。これは重要です。なぜなら、真正性が機能するためには、コンテンツが最初に作成されたプラットフォームを超えて維持されなければならないからです。そして、この準拠によってそれが可能になります。 ## C2PA メタデータと Google SynthID を用いた多層的な真正性アプローチ C2PA メタデータは、真正性の重要な基盤です。これは、コンテンツがどこから来たのか、どのように作成または編集されたのか、またその情報を誰が署名したのかという情報をコンテンツに付与する役割を果たします。しかし、メタデータだけで完全に安全であるとは限りません。アップロードやダウンロードの過程で失われたり、ファイル形式の変更、リサイズ、スクリーンショットといった変換処理によって破損したりする可能性があります。 真正性をより強靭なものにするため、私たちは多層的なアプローチを採用し、画像生成において [Google DeepMind の SynthID(新しいウィンドウで開く)](https://deepmind.google/models/synthid/) を用いた透かし埋め込みを統合しています。まずは、[ChatGPT](https://openai.com/index/introducing-chatgpt-images-2-0/)、Codex、または OpenAI API を通じて生成された画像から開始します。SynthID は、C2PA メタデータに基づくアプローチを補完する、目に見えない透かし埋め込み層を組み込む技術です。 私たちはこれに向けて長期間取り組んできました。Sora には [可視透かし](https://openai.com/index/launching-sora-responsibly/) を、Voice Engine には [音声透かし](https://openai.com/index/expanding-on-how-voice-engine-works-and-our-safety-research/) を実装し、運用を通じてその精度と信頼性を継続してテスト・研究してきました。 これらの 2 つのシステムは互いに補完し合っています。C2PA はコンテンツに詳細な文脈を付与し、SynthID はメタデータが失われた場合でもシグナルを保持します。ウォーターマークはスクリーンショットのような変換処理を通じてより耐久性を持ち、一方、メタデータはウォーターマーク単独では提供できない情報を付加できます。これらを組み合わせることで、どちらか片方の層だけでは実現できないほど、出所証明（プロベナンス）の耐性を高めることができます。 検知機能と公開検証ツールのプレビュー 主要な改変に耐える信頼できるメタデータやウォーターマークは、出所証明シグナルの耐久性を向上させます。しかし、人々にはこれらのシグナルを検出する手段が必要です。現在、[公開検証ツール](https://openai.com/verify/) のプレビューを開始しており、アップロードされた画像が ChatGPT、OpenAI API、または Codex で生成されたものかどうかを確認できるよう支援します。このツールは、コンテンツ証明書（Content Credentials）や SynthID を含む出所証明シグナルが含まれているかどうかに基づいて検証を行います。 私たちは、出所証明を人々がより容易に検証・解釈できるべきだと考えており、複数のシグナルを統合することで、「これは AI で生成されたものですか？」という問いに対して人々自身が回答する役割を果たせるよう支援できると信じています。これは 2024 年に公開した[画像検知分類器](https://openai.com/index/understanding-the-source-of-what-we-see-and-hear-online/) の初期研究プレビューからの教訓に基づいたものであり、OpenAI に由来する SynthID ウォーターマークがメディアに含まれているかどうかを確実に検出できるだけでなく、見つかった場合には C2PA メタデータも表示可能にします。 検出手法に完全な信頼性は存在しないため、検出が失敗したケースでは慎重なアプローチを採用しています。例えば、メタデータや透かしが検出されない場合、プロベナンス信号が何らかの理由で削除されている可能性があるため、ツールは画像が OpenAI のツールによって生成されたかどうかについて断定した結論を下すことはありません。 リリース当初、本ツールは OpenAI によって生成されたコンテンツに限定されています。今後数ヶ月の間、プラットフォーム間での検証を可能にするための業界横断的な取り組みをサポートすることを目指しています。時間の経過とともに、オンライン上で遭遇する可能性のあるより多様な種類のコンテンツのサポートも期待されます。 ## 今後の展望 単一のプロベナンス技術だけでは不十分です。私たちは、共有された標準規格、耐久性の高い透かし信号、そして公開検証を組み合わせた強力なアプローチが必要だと考えています。Content Credentials に対する長年の支援を基盤とし、C2PA に準拠し、SynthID を採用し、公開検証ツールのプレビューを行うことで、将来的にはより相互運用性の高いプロベナンスエコシステムに貢献できることを願っています。

より安全で透明性の高い AI エコシステムのためのコンテンツ証明の推進（6 分読了）

背景や根拠まで確認しますか？

関連記事

調べる

選ぶ

サイト