OpenAI、画像が同社モデル生成物か確認しやすくする機能を導入

オンライン上で AI 画像生成ツールが広く利用可能になり、かつてないほど洗練される中、画像の真偽を見分けることはこれまで以上に困難になっています。しかし、火曜日に OpenAI はこの問題に対処するための2つの新たな措置を発表しました。 同社は、AI によって生成された画像であることをメタデータに明確なシグナルとして付与するオープン標準「C2PA」への採用を約束しました。また、OpenAI は Google と提携し、検出は困難ですが、悪意のある行為者が痕跡を消そうとしても削除が難しいとされる不可視の透かし「SynthID」を組み込む予定です。 これらの新たな保護措置は OpenAI の製品によって生成された画像にのみ適用されるため、評判の低い AI ツールから溢れ出る大量の画像には影響しません。しかし、OpenAI が問題の一部とならないように確保する助けとなります。 OpenAI はまた、両方のシグナルを検出する一般向けの検証ツールをプレビューしており、ユーザーが画像が AI によって生成されたかどうかを簡単にテストできるようになります。当初、このツールは OpenAI の製品によって生成された画像にのみ対応しますが、将来的には他のツールにも拡大することを同社は目指しています。 2021年に設立された「コンテンツの由来と真正性のための連合（Coalition for Content Provenance and Authenticity、略称：C2PA）」は、AI による画像が公的な議論に与える有害な影響を軽減するために専念する非営利団体です。C2PA の標準は Google の様々な製品で採用されていますが、業界全体での導入状況はまだ一貫していません。C2PA のシグナルは各ファイルのメタデータから明確にアクセス可能であるため、改ざんされる可能性があり、信頼できるユーザー間において最も有用です。 SynthID は、改ざんに対するより堅牢な対策として設計された新しい取り組みです。Google によって開発された SynthID ウォーターマークは、スクリーンショットの撮影、リサイズ、あるいはデジタル操作など、悪意のある行為者がこれを除去しようとしても持続するように設計されています。 両システムはお互いの弱点を補い合うことを意図しており、それぞれが他方の欠点をカバーします。 「ウォーターマーキングは、スクリーンショットのような変換を通じてより耐久性を持つ一方、メタデータはウォーターマーク単独よりも多くの情報を提供できます」と OpenAI は発表で述べています。「これらを組み合わせることで、いずれか単独の層よりも、出所情報の耐性が高まります。」 *当記事内のリンクを通じてご購入いただいた場合、[私たちは少額のコミッションを獲得する可能性があります](https://techcrunch.com/techcrunch-affiliate-monetization-standards/)。これは私たちの編集の独立性には影響しません。 Russell Brandom は 2012 年以来テクノロジー業界を取材しており、プラットフォームポリシーと新興技術に焦点を当てています。彼は以前 The Verge や Rest of World で勤務し、Wired、The Awl、MIT の Technology Review にも寄稿しています。 彼への連絡先は russell.brandom@techcrunch.com または Signal（412-401-5489）です。 [プロフィールを見る](https://techcrunch.com/author/russell-brandom/)

OpenAI、画像が同社モデル生成物か確認しやすくする機能を導入

背景や根拠まで確認しますか？

関連記事

調べる

選ぶ

サイト