より安全で透明性の高い AI エコシステムのためのコンテンツ証明の推進

人々は毎日、OpenAI のツールを使用して画像やオーディオを作成・編集しており、それによってコミュニケーションがより表現豊かになり、有用かつアクセスしやすくなっています。これらのツールが人々の構築・想像・共有の方法の一部となるにつれ、メディアの由来を理解し検証できることが重要となり、それによりより自信を持って解釈できるようになります。プロベナンス（出所）シグナルは、コンテンツの由来、作成または編集方法、そして主張通りのものであるかどうかについての文脈を提供することで、これを支援できます。 本日、私たちはオンラインでの信頼構築に向けた多層的でエコシステム主導のアプローチを強化します。具体的には、C2PA 準拠を通じて他のツールやプラットフォームがプロベナンスシグナルを認識しやすくすること、Google とのパートナーシップにより画像に永続的なクロスプラットフォーム SynthID 透かし（watermarking）を追加すること、そして一般ユーザーが画像が OpenAI 由来かどうかを検証できるツールのプレビューを提供することです。 これらの更新は、オープン標準のサポート、OpenAI 生成コンテンツの識別容易性の向上、業界全体での協力によるより信頼性の高い情報エコシステムの構築に向けた、私たちの [以前の取り組み](https://openai.com/index/understanding-the-source-of-what-we-see-and-hear-online/?utm_source=chatgpt.com) を基盤としています。 ## C2PA 準拠を通じた信頼エコシステムの構築 OpenAI は、2024 年に [DALL·E 3(新しいウィンドウで開く)](https://cdn.openai.com/papers/DALL_E_3_System_Card.pdf) で生成された画像にコンテンツ認証情報（Content Credentials）の付与を開始し、その後 [ImageGen(新しいウィンドウで開く)](https://cdn.openai.com/11998be9-5319-4302-bfbf-1167e093f1fb/Native_Image_Generation_System_Card.pdf) や [Sora(新しいウィンドウで開く)](https://deploymentsafety.openai.com/sora-2/provenance-and-transparency-initiatives) にも適用するに至るなど、コンテンツの出自（プロベナンス）に関する標準規格の開発と導入に取り組んできました。また、コンテンツの出自に関するオープンな技術標準を策定した業界横断団体である「コンテンツ出自・真正性連合（C2PA）」の運営委員会にも参加しています。C2PA の技術的アプローチでは、メタデータと暗号署名を活用し、メディア作品に関する情報をそのコンテンツ自体と共に安全に伝達できるようにしています。この情報には、ソースを評価するジャーナリスト、整合性の判断を行うプラットフォーム、オンライン上で何を見ているのかを理解しようとする人々にとっての文脈が含まれています。 私たちは最近、OpenAI を [C2PA 適合生成製品(新しいウィンドウで開く)](https://c2pa.org/conformance/) とする措置を講じました。C2PA に適合することで、プラットフォームに対して、私たちがコンテンツに付与した出自情報を信頼できる形で読み取り、保存し、引き継ぐ手段を提供しています。これは重要です。なぜなら、出自情報がコンテンツが最初に作成されたプラットフォームを超えて維持されなければ機能しないためであり、適合性（コンフォーマンス）こそがその実現を可能にするからです。 ## C2PA メタデータと Google SynthID を用いた多層的な真正性アプローチ C2PA メタデータは、真正性の重要な基盤です。これは、コンテンツがどこから来たのか、どのように作成または編集されたのか、またその情報に誰が署名したのかという情報をコンテンツに付与する役割を果たします。しかし、メタデータだけで完全に安全であるとは限りません。アップロードやダウンロードの過程で削除されたり失われたりしたり、ファイル形式の変更、リサイズ、スクリーンショットといった変換処理によって破損したりする可能性があります。 真正性をより強靭なものにするため、私たちは多層的なアプローチを採用し、画像生成において [Google DeepMind の SynthID(新しいウィンドウで開く)](https://deepmind.google/models/synthid/) を用いた透かし埋め込みを統合しています。これはまず、[ChatGPT](https://openai.com/index/introducing-chatgpt-images-2-0/)、Codex、または OpenAI API を通じて生成された画像から開始されます。SynthID は、C2PA メタデータに基づくアプローチを補完する、目に見えない透かし埋め込み層を埋め込む技術です。 私たちはこれに向けて長期間取り組んできました。Sora には [可視透かし](https://openai.com/index/launching-sora-responsibly/) を、Voice Engine には [音声透かし](https://openai.com/index/expanding-on-how-voice-engine-works-and-our-safety-research/) を実装し、運用を通じて時間経過に伴う精度と信頼性のテストと研究を継続してきました。 これらの 2 つのシステムは互いに補完し合っています。C2PA はコンテンツに詳細な文脈を付与し、SynthID はメタデータが失われた場合でもシグナルを保持します。ウォーターマークはスクリーンショットのような変換を通じてより耐久性を持つことができますが、メタデータはウォーターマーク単独よりも多くの情報を提供できます。これらを組み合わせることで、どちらか一方の層だけでは実現できないほど、出所証明（プロヴェナンス）をより強靭にすることができます。 検知機能と公開検証ツールのプレビュー ほとんどの改変に耐える信頼できるメタデータやウォーターマークは、出所証明シグナルの耐久性を高めます。しかし、人々にはこれらのシグナルを検出する手段が必要です。現在、アップロードされた画像が ChatGPT、OpenAI API、または Codex で生成されたものかどうかを、Content Credentials や SynthID を含む出所証明シグナルが含まれているかを確認することで検証できる [公開検証ツール](https://openai.com/verify/) のプレビューを開始しています。 人々が出所証明を検証し解釈することを容易にし、複数のシグナルを統合して「これは AI で生成されたものですか？」という問いに答える役割を果たせるよう支援すべきだと考えています。これは 2024 年に公開した [画像検知分類器](https://openai.com/index/understanding-the-source-of-what-we-see-and-hear-online/) の初期研究プレビューからの教訓に基づいたものであり、OpenAI に由来する SynthID ウォーターマークがメディアに含まれているかを確実に検出できるだけでなく、見つかった場合には C2PA メタデータも表示可能にします。 検出手法に完全な信頼性は存在しないため、検出が失敗したケースでは慎重なアプローチを採用しています。例えば、メタデータや透かしが検出されない場合、プロベナンス信号は場合によっては剥奪される可能性があるため、ツールは画像が OpenAI のツールによって生成されたかどうかについて断定することは行いません。 リリース当初、このツールは OpenAI によって生成されたコンテンツに限定されています。今後数ヶ月のうちに、プラットフォーム間での検証を可能にするための業界横断的な取り組みへのサポートを目指します。時間の経過とともに、オンライン上で遭遇する可能性のあるより多様な種類のコンテンツにも対応していくことを期待しています。 ## 今後の展望 単一のプロベナンス技術だけでは不十分です。私たちは、共有された標準規格、耐久性の高い透かし信号、そして公開検証を組み合わせた強力なアプローチが必要だと考えています。Content Credentials に対する長年の支援を基盤とし、C2PA に準拠し、SynthID を採用し、公開検証ツールのプレビューを行うことで、将来的にはより相互運用性の高いプロベナンスエコシステムに貢献できることを願っています。

より安全で透明性の高い AI エコシステムのためのコンテンツ証明の推進

背景や根拠まで確認しますか？

関連記事

調べる

選ぶ

サイト