Google、すべての人向けにディープフェイク検出をよりアクセスしやすくする取り組みを開始
Google は I/O で、Chrome と Search に SynthID および C2PA を統合した深層偽造検知機能を展開し、一般ユーザーが偽造コンテンツを識別しやすくする取り組みを開始した。
キーポイント
主要プラットフォームへの検知機能拡張
Google は I/O で発表した新アップデートにより、Chrome ブラウザと Google Search に深層偽造検知機能を統合し、一般ユーザーが容易に偽造コンテンツを識別できるようにする。
SynthID と C2PA の両方への対応
Google DeepMind が開発した不可視透かし技術「SynthID」に加え、業界標準の「C2PA コンテンツ認証」に対応することで、複数の検証システムをカバーする。
一般利用者のアクセス向上
今回の施策の目的は、専門知識を持たない人々にとっても深層偽造技術を見分けることを容易にし、情報の信頼性を高めることにある。
影響分析・編集コメントを表示
影響分析
Google が自社の主要プラットフォームに検知機能を直接実装することは、深層偽造対策を「専門家向けツール」から「一般市民の日常インフラ」へと昇華させる画期的な転換点です。SynthID と C2PA の両方に対応することで、技術的な分断を防ぎつつ、業界全体での標準化を促進する効果も期待されます。
編集コメント
Google が独自技術と業界標準の両方をサポートする姿勢は、偽造コンテンツ対策におけるリーダーシップを示すものであり、今後のプラットフォームセキュリティの基準を再定義する可能性があります。
Google は、AI 検出機能を Chrome および Search に拡大し、人々がディープフェイクをより容易に識別できるようにすることを目指しています。本日 Google I/O で発表されたこれらのアップデートは、Google DeepMind が開発した 非可視透かし技術 である SynthID だけでなく、C2PA コンテンツ認証情報 を埋め込んだコンテンツも対象としており、オンライン上で目にするコンテンツがどのように作成または改変されたのかをユーザーが理解するための両システムのアクセシビリティ向上を図っています。
まず Google によると、Google の AI ツールで作成されたことを示す SynthID マーカー（シンボル）を含む画像の検証機能が、本日より Search 機能に導入されます。これには Google Lens、AI モード、Circle to Search が含まれます。これらのツールを使用してオンライン上の画像をアップロードまたは選択することで、ユーザーは画像の出所についてより多くの情報を得ることができ、Chrome でのサポートも「今後数ヶ月」のうちに展開される予定です。Google は、この Chrome への拡大も Gemini によって支えられており、ブラウザページ上で画像を選択したり囲んだりするだけで機能すると述べています。その後、画像が右側のパネルに表示され、ユーザーは「これは AI で作成されたものですか？」や「これは AI 生成コンテンツですか？」と質問できるようになります。
画像、動画、音声コンテンツに対する SynthID の検証機能は、すでに Gemini アプリ を通じて利用可能です。今回の Chrome および Search への展開は現時点では画像に限定されていますが、Google は将来的には他の種類のコンテンツにも拡大する計画を示しています。
このアップデートの一環として、Google の検証インターフェースでは、独自の SynthID マーカーとともに、C2PA Content Credentials（C2PA コンテンツ認証情報）が含まれているかも併せて確認します。これにより、ユーザーは Gemini と専用の C2PA チェッカーポータルの間を行き来することなく、単一のインターフェースから両方の出所証明システムを検証できるようになり、ディープフェイク検出のプロセスがよりスムーズになります。C2PA の検証機能は本日 Gemini アプリで展開を開始し、Search および Chrome でのサポートは今後数ヶ月以内に追加される予定です。
これは Google のプラットフォーム全体で C2PA を拡大させる取り組みの唯一のものではありません。このメタデータはすでに Pixel 10 スマートフォンで撮影された画像に埋め込まれており、今後は Pixel 8、9、10 で動画ファイルにも同様の機能が追加される予定です。また Google は、Meta も Instagram 上でカメラで撮影されたメディアに C2PA を用いたラベル付けを開始すると発表していますが、Meta 側は今回の新機能に関する詳細情報への問い合わせに対してまだ回答していません。一方、OpenAI、Kakao、ElevenLabs が生成した AI コンテンツの一部でも Google の SynthID ウォーターマークのサポートが強化される見込みですが、Google はこれがどのモデルやコンテンツに適用されるかについては具体的な明言をしていません。
これらのアップデートの締めくくりとして、Google Cloud の Gemini Enterprise Agent Platform に新しい AI コンテンツ検出 API が登場します。これは組織が生成された AI メディアを特定しやすくすることを目的としています。Google によると、この機能は特定の信頼できるパートナーグループと共に開始され、そのフィードバックに基づいて API は微調整されるとのことです。
「これにより、企業は Google および他の人気のあるモデルによって作成された AI コンテンツを検出する強力な手段を得ます。これにより、フィードの整理や保険詐欺の防止といったバックエンド業務から、事実確認や合成メディアへのラベル付けといったユーザー向けコンテンツに至るまで、自社プラットフォーム全体でメディアをどのように評価・管理するかを判断できるようになります」と、Google は発表ブログで述べています。
これらの拡張機能は合わせて、企業と一般のウェブユーザーの両方にとって AI 検出をよりアクセスしやすくするはずです。特に Chrome の拡張機能が注目すべき点です。それは世界中で最も使用されているブラウザであるためです。多くのオンラインプラットフォームでは AI コンテンツがネイティブにラベル付けされていないため、画像を保存して専用の C2PA や SynthID 検出インターフェースに手動アップロードする従来の方法と比較すると、これはより簡単な代替手段を提供します。
ただし、Google DeepMind の VPであるプッシュミット・コリ氏は『ザ・バージ』に対して、Google が SynthID 専用の検証ポータルを立ち上げる計画を中止したと語りました。少なくとも Google 自身のシステムにおいては、今後 SynthID マーカーは Gemini を搭載したプラットフォーム上でのみ識別可能となり、Google モデルによって生成された AI コンテンツの特定には、ユーザーが Google 独自の AI ツールを使用することを強いることになります。これは、生成系 AI システムとの関わりを完全に避けたい人々にとっては受け入れられない結果となる可能性があります。
この記事のトピックや著者をフォローして、パーソナライズされたホームページフィードで類似の記事をもっと見たり、メール更新を受け取ったりしてください。
- ジェス・ウェザーベッド
-
-
-
-
原文を表示
Google is expanding AI detection capabilities to Chrome and Search, with the aim of making it easier for people to identify deepfakes. The updates, announced at Google I/O today, cover not only SynthID — the invisible watermarking technology developed by Google DeepMind — but also content embedded with C2PA content credentials, making both systems more accessible for users to learn how the content they see online was made or manipulated.
To start, Google says verification for images that carry SynthID markers (which indicate they’ve been made with Google’s AI tools) is coming to Search features starting today, including Google Lens, AI Mode, and Circle to Search. Uploading or selecting online images with these tools can tell users more about where the image originated, with support for Chrome expected to roll out “in the coming months.” Google says the Chrome expansion is also powered by Gemini, and will work by selecting or circling an image on the browser page. The image will then appear on the right-side panel, where users can ask “Is this made with AI?” or “Is this AI generated?”
SynthID verification for image, video and audio content is already available through the Gemini app. The expansion to Chrome and Search is image-only for now, but Google says it plans to expand to other types of content in the future.
As part of this update, Google’s verification interfaces will also check if content contains C2PA Content Credentials alongside its own SynthID markers. That means people can now check for both provenance systems from a single interface instead of jumping between Gemini and dedicated C2PA checker portals, creating a more streamlined process for deepfake detection. C2PA verification is rolling out to the Gemini app today, with Search and Chrome support to follow in the coming months.
This isn’t the only effort to expand C2PA across Google’s platforms — this metadata was already embedded on images taken using Pixel 10 phones, and now Pixel 8, 9 and 10 phones will start including it for video files in the coming weeks. Google also says that Meta will start labeling camera-captured media on Instagram using C2PA, though Meta hasn’t responded to our request for more information about this upcoming feature. Meanwhile, support for Google’s SynthID watermarks are coming to more AI content generated by OpenAI, Kakao, and ElevenLabs, though Google doesn’t specify what models or content this will apply to.
Rounding off these updates is a new AI content detection API for Google Cloud’s Gemini Enterprise Agent Platform, which aims to make it easier for organizations to identify AI-generated media. Google says this capability is launching with a group of unspecified trusted partners, and that the API will be fine tuned based on their feedback.
“This gives businesses a powerful way to spot AI content made by both Google and other popular models, helping them decide how to evaluate and manage media across their own platforms – whether that’s for backend operations like sorting feeds and preventing insurance fraud, or for user-facing content like fact-checking and labeling synthetic media,” Google said in its announcement blog.
Together, these expansions should help to make AI detection more accessible for both companies and everyday web users. The Chrome expansion is especially notable as it’s the most used browser across the globe — many online platforms don’t label AI content natively, so this provides an easier workaround compared to saving images and manually uploading them to dedicated C2PA and SynthID detection interfaces.
That said, Google DeepMind VP Pushmeet Kohli told *The Verge* that Google has scrapped plans to launch a dedicated verification portal for SynthID. For Google’s own systems at least, that means SynthID markers may only be identified on Gemini-powered platforms going forward, forcing people to use Google’s own AI tools to identify AI content generated by Google models. That may not go down well with folks who want to entirely avoid interacting with generative AI systems.
Follow topics and authors from this story to see more like this in your personalized homepage feed and to receive email updates.
- Jess Weatherbed
-
-
-
-
関連記事
今日のまとめ
AI日報で今日の重要ニュースをまとめ読み