OpenAI、画像が同社モデル生成物か確認しやすくする機能を導入
OpenAI は、生成画像の真偽を判定するため、メタデータに情報を埋め込む「C2PA」標準への準拠と、Google の耐除去技術を持つ「SynthID」不視認透かしとの連携を発表し、検証ツールの公開も開始した。
キーポイント
二重の認証メカニズムの導入
OpenAI は、C2PA 標準による明確なメタデータ信号と、Google の SynthID による耐除去性の高い不視認透かしの両方を採用し、互いの弱点を補完する体制を整えた。
検証ツールの公開
ユーザーが画像の生成元を確認できる公共検証ツールをプレビューしており、現在は OpenAI 製画像に限定されているが、将来的には他社ツールへの対応も視野に入れている。
業界標準と技術的補完
C2PA はメタデータとして明確だが改ざんされやすく、SynthID は変換（スクリーンショット等）に耐えるが情報量が限られるため、両者を組み合わせることで信頼性を最大化する。
影響分析・編集コメントを表示
影響分析
この発表は、生成 AI による偽情報の拡散に対する実効性のある対策として業界の標準化を加速させる重要な転換点です。特に OpenAI と Google が異なる技術（メタデータと透かし）を連携させることで、単独の対策では防げない改ざんや除去への耐性を高め、ユーザーが画像の真偽を判断するインフラ基盤を強化します。
編集コメント
OpenAI と Google の技術的連携により、生成 AI 画像の信頼性確保に向けた具体的な実装が進みました。ただし、現時点では OpenAI 製品限定であり、他社製ツールへの対応がいつ実現するかが今後の注目点です。
オンライン上で AI 画像生成ツールが広く利用可能になり、かつてないほど洗練される中、画像の真偽を見分けることはこれまで以上に困難になっています。しかし、火曜日に OpenAI はこの問題に対処するための2つの新たな措置を発表しました。
同社は、AI によって生成された画像であることをメタデータに明確なシグナルとして付与するオープン標準「C2PA」への採用を約束しました。また、OpenAI は Google と提携し、検出は困難ですが、悪意のある行為者が痕跡を消そうとしても削除が難しいとされる不可視の透かし「SynthID」を組み込む予定です。
これらの新たな保護措置は OpenAI の製品によって生成された画像にのみ適用されるため、評判の低い AI ツールから溢れ出る大量の画像には影響しません。しかし、OpenAI が問題の一部とならないように確保する助けとなります。
OpenAI はまた、両方のシグナルを検出する一般向けの検証ツールをプレビューしており、ユーザーが画像が AI によって生成されたかどうかを簡単にテストできるようになります。当初、このツールは OpenAI の製品によって生成された画像にのみ対応しますが、将来的には他のツールにも拡大することを同社は目指しています。
2021年に設立された「コンテンツの由来と真正性のための連合（Coalition for Content Provenance and Authenticity、略称：C2PA）」は、AI による画像が公的な議論に与える有害な影響を軽減するために専念する非営利団体です。C2PA の標準は Google の様々な製品で採用されていますが、業界全体での導入状況はまだ一貫していません。C2PA のシグナルは各ファイルのメタデータから明確にアクセス可能であるため、改ざんされる可能性があり、信頼できるユーザー間において最も有用です。
SynthID は、改ざんに対するより堅牢な対策として設計された新しい取り組みです。Google によって開発された SynthID ウォーターマークは、スクリーンショットの撮影、リサイズ、あるいはデジタル操作など、悪意のある行為者がこれを除去しようとしても持続するように設計されています。
両システムはお互いの弱点を補い合うことを意図しており、それぞれが他方の欠点をカバーします。
「ウォーターマーキングは、スクリーンショットのような変換を通じてより耐久性を持つ一方、メタデータはウォーターマーク単独よりも多くの情報を提供できます」と OpenAI は発表で述べています。「これらを組み合わせることで、いずれか単独の層よりも、出所情報の耐性が高まります。」
*当記事内のリンクを通じてご購入いただいた場合、私たちは少額のコミッションを獲得する可能性があります。これは私たちの編集の独立性には影響しません。
Russell Brandom は 2012 年以来テクノロジー業界を取材しており、プラットフォームポリシーと新興技術に焦点を当てています。彼は以前 The Verge や Rest of World で勤務し、Wired、The Awl、MIT の Technology Review にも寄稿しています。
彼への連絡先は russell.brandom@techcrunch.com または Signal（412-401-5489）です。
原文を表示
With AI image generators widely available online and more sophisticated than ever, it’s never been harder to tell if an image is authentic. But on Tuesday, OpenAI announced two new measures to help fight the problem.
The company has committed to an open standard called C2PA, which adds a clear signal in metadata that an image was generated by AI. OpenAI is also partnering with Google to include an invisible watermark called SynthID, which will be harder to detect, but also harder to erase if bad actors try to cover their tracks.
The new protections only apply to images generated by OpenAI products, so they won’t affect the flood of imagery coming from less reputable AI tools; they can help ensure that OpenAI isn’t part of the problem.
OpenAI is also previewing a public verification tool that will check for both signals, allowing users to easily test whether an image was generated using AI. Initially, the tool will only extend to images generated by OpenAI products; the company hopes to expand it to cover other tools over time.
Founded in 2021, the Coalition for Content Provenance and Authenticity (C2PA) is a non-profit dedicated to mitigating the harmful effects of AI imagery on public discourse. The C2PA standard has been adopted by a range of Google products, but adoption remains inconsistent across the industry. Because the C2PA signal is clearly accessible in the metadata of each file, it can be manipulated, and is most useful among trusted users.
SynthID is a newer effort designed to be a more robust measure to meddling. Developed by Google, the SynthID watermark is designed to persist even when bad actors attempt to remove it, either through screenshots, resizing or digital manipulation.
The two systems are meant to complement each other, with each addressing the other’s weaknesses.
“Watermarking can be more durable through transformations like screenshots, while metadata can provide more information than a watermark alone,” OpenAI noted in its announcement. “Together, they make provenance more resilient than either layer would be on its own.”
*When you purchase through links in our articles, we may earn a small commission. This doesn’t affect our editorial independence.*
Russell Brandom has been covering the tech industry since 2012, with a focus on platform policy and emerging technologies. He previously worked at The Verge and Rest of World, and has written for Wired, The Awl and MIT’s Technology Review.
He can be reached at russell.brandom@techcrunch.com or on Signal at 412-401-5489.
関連記事
今日のまとめ
AI日報で今日の重要ニュースをまとめ読み