メタ、独自AI検出システム導入へ
The Verge の記事は、Meta が Google SynthID や C2PA といった既存の業界標準ソリューションを採用せず、独自の水没検出システム「Content Seal」を後発で導入した戦略について、その整合性と実用性の欠如を批判的に分析している。
キーポイント
既存標準との競合と遅延
Meta は C2PA のステアリング委員会のメンバーであり、OpenAI も Google SynthID を採用する中で、独自システムを後発で導入した理由が不明確であると指摘されている。
機能の類似性と検出ツールの制限
Content Seal は Google SynthID と同様の不可視透かし技術を採用しているが、現在は Meta 独自の専用 Web ツールでのみ検出可能であり、ネイティブなチャットボット統合には至っていない。
業界標準化への懸念
複数の企業が異なる独自システムを並行して展開することは、AI 生成コンテンツの真正性を検証する際の混乱を招き、透明性向上という本来の目的に反する恐れがある。
重要な引用
"Content Seal doesn't fill me with confidence."
"Meta already operates as a steering committee member of the Coalition for Content Provenance and Authenticity (C2PA)... so it's shown willingness to work with others on solving the growing issue of AI detection."
"For now, users can only detect Content Seal watermarks through a dedicated web tool that Meta is testing..."
影響分析・編集コメントを表示
影響分析
この記事は、Meta が業界標準化の流れに逆らって独自規格を推進するリスクを浮き彫りにしており、AI 認証分野における「標準統一」の重要性と、大手企業間の協調不足がもたらす混乱の可能性を示唆しています。特に、C2PA という共通基盤が存在する中で競合他社との技術連携を避ける姿勢は、ユーザー体験やプラットフォーム全体の信頼性維持にとってマイナスとなる可能性があります。
編集コメント
Meta が独自規格を推進する背景には、プラットフォーム間の完全な制御権維持やデータ囲い込みの意図が隠れている可能性があります。しかし、AI 生成コンテンツの信頼性を高めるためには、Google や OpenAI も参加する C2PA のような業界横断的な標準への早期合意と実装が不可欠であり、Meta の現状の姿勢は短期的には自社利益に寄与しても、長期的な業界全体の透明性向上には逆行するリスクがあります。
3 月、Meta の オーバーサイトボード は同社に対し、「公約を果たし、独自のツールを活用して、プラットフォーム全体に広がる欺瞞的な生成 AI コンテンツの拡散を食い止めよ」と要請しました。これに対して Meta は 7 月、コンテンツシール を発表し、同社の新しい AI モデルが生成した画像に付与する不可視の透かし技術として導入しました。しかし、これは Muse の画像・動画生成ツールに関する発表の中で、まるで注釈のように埋もれてしまったに過ぎません。
AI ラベリングシステムを専門に分析している立場からすると、コンテンツシールにはあまり安心感が湧きません。すでに確立された解決策として、[C2PA コンテンツ認証] や Google の SynthID といった選択肢が用意されています。Meta はこれらを活用すべきだったはずです。にもかかわらず、独自のシステムを大幅に遅れて立ち上げた理由を探ってみたところ、Meta がこの件を十分に検討したとは到底思えません。
Meta が発表している「Content Seal」は、SynthID と同様の仕組みを採用しています。人間の目には見えない透かしを AI 生成画像に埋め込み、検出ツールでスキャンしてフラグを立てることで、「隠れた真正性のシグナル」として機能します。これにより、ユーザーはディープフェイクと本物のコンテンツを見分けることができます。SynthID と同様、Meta は「切り抜き」「圧縮」「リサイズ」「スクリーンショット」が行われた場合でも、透かしが失われず検出可能だと主張しています。
では、Content Seal が SynthID と同じ機能を果たすのであれば、なぜ SynthID をそのまま採用しないのでしょうか。実は Meta は、Google と並んで「コンテンツ真正性と認証のための連合（C2PA）」のステアリングコミッティメンバーとして活動しており、AI 検出という課題解決のために他社と連携する姿勢を示しています。また、SynthID はすでに OpenAI でも導入されており、透明性向上の名の下に競合他社にも技術を開放しようとする Google の姿勢も明確です。
Content Seal には Google のシステムと類似点があるものの、現状ではいくつかの制限があります。現時点では、ユーザーは Meta がテスト中の専用 Web ツール a dedicated web tool を通じてのみ Content Seal の透かしを検出できます。つまり、Google が Gemini で実現しているような検出機能を Meta AI チャットボットに組み込んでいないのです。ただし、この機能の開発は進んでいるようです。Meta の広報担当者である Faith Eischen 氏は『The Verge』に対し、「AI 生成コンテンツが最も多く見られる場所へ検出機能を近づける方法を模索中だ」と述べています。AI 検出が必要とされるのはまさにその場所で、かつ長年そう言われ続けてきたにもかかわらず、なぜローンチ時には提供されていないのでしょうか。
また、透かし自体は Meta AI アプリおよび Meta.ai ウェブサイト上で Muse が生成した画像にのみ適用されています。つまり、オンラインユーザーが Meta の旧世代の AI モデルによって作成されたコンテンツを検出するためにこの機能を利用することはできません。動画生成への対応も現時点では提供されていませんが、Meta によるとこれは「まもなく」実装される予定です。
メタは、自社の生成モデル「Muse」によって作成または編集された画像を、同社が開発した検出ツールが正常に検知した場合に表示される情報があります。
もしコンテンツシールのマーカが見つからない場合に表示されるメッセージです。ただし、これは画像が AI 生成ではないことを意味するものではありません。
1/2*Meta の検出ツールが、同社の Muse モデルを用いて作成または編集された画像を正常に検出した際に表示される情報です。画像：Jess Weatherbed / The Verge
Meta は、コンテンツシール（Content Seal）の画像確認回数を検出ツールを通じて1 日あたりの利用制限に設定しました。Eischen 氏はこのレート制限が、「通常の使用」を支援しつつ、検出システムが不正に悪用されるのを防ぐために設けられたと説明しています。
Meta は具体的にどのような行為が悪用にあたるのかについては明言していませんが、おそらくは、ウォーターマーク付きのコンテンツを検出されないようにする試み（Google SynthID の逆解析）を想定しているのでしょう。一方、Google%20and%2010%20audio%20checks%20(up%20to%203%20hours%20total)%20within%20any%2024-D-hour%20rolling%20window.%20If%20you%20reach%20these%20limits%2C%20the%20Gemini%20app%20will%20notify%20you.) や OpenAI%20can%20occur.) の検出ツールも同様の利用制限を設けています。
C2PA だけが、ユーザーがコンテンツを確認する回数を上限で制限していない唯一のシステムです。AI の透明性を大規模に高めるためには、検出回数に制限を設けることは直感に反するように思えます。Meta のシステムが SynthID よりも優れた対応ができるはずだったのに、これは機会損失だったと言えるでしょう。
Meta の Eischen は、AI ラベルを付与する Facebook や Instagram といった同社のプラットフォームにおいて、未詳のメタデータと「Content Seal」の透かしを組み合わせて使用し、ユーザーが生成された AI コンテンツを識別できるよう支援していると語りました。私は Meta に、TikTok や LinkedIn など、AI コンテンツを検知・ラベル付けする他社プラットフォームに対し、Content Seal の検出方法を指導しているか尋ねましたが、Eischen は「業界の仲間たちと協力し、ユーザーが可能な限り最高の体験を得られるよう努めている」と回答しました。
これは標準化への広範な支持がまだ途上にあることを示唆しており、Meta 以外のプラットフォームでは Muse が生成した画像を効果的にラベル付けできない可能性もあります。実際に、私が Meta の Muse モデルでテスト用画像を作成し、Gemini と公式の C2PA 検出ポータルに読み込ませたところ、いずれも AI 生成であることを確認できませんでした。また、SynthID や Content Credentials など他の標準規格と共存しながら、画像や動画ファイルにも Content Seal を適用できるかどうかという点についても疑問が残ります。Meta はこれらについて公式見解を示していません。
Eischen は「他社同様、Content Seal は自社の技術仕様や製品に合わせたネイティブな設計で構築しました。この課題を生態系全体で解決するには複数のアプローチが連携する必要がありますし、その取り組みへの貢献ができることを嬉しく思います」と述べています。「Content Seal については近日中にもっと詳しくお伝えできる予定です。」
Meta の「Content Seal」は、同社が最も最新の AI モデルを使って生成された画像のみを検出できる仕組みです。では、この間 Meta は一体何をしてきたのかと疑問を持たざるを得ません。Meta は 2023 年から AI 画像生成ツールを提供しており、すでに自社の独自システムでは検出できない偽物が大量に作られてしまっています。
また、2023 年には Instagram と Facebook に AI タグの導入も始めましたが、これは当時多くの写真家から批判を浴びました。実際には人間が撮影した写真を誤って「AI 制作」と表示してしまったからです。
それから 3 年経った今でも、Meta は「AI コンテンツを生産する工場であること」と「そのコンテンツを検出する解決策を提供する企業であること」の両方をどうアピールすべきか、特に自社のプラットフォーム上ではまだ確信が持てないようです。社内の最高経営層でさえ、次に何をすべきか迷っている状態です。
Lenny Rachitsky のポッドキャストでのインタビューにおいて、Instagram の責任者である Adam Mosseri は当初、AI 生成コンテンツを好まないユーザーがそれをフィードから除外できるようにするべきだという考えに賛同していました。これは、信頼性の高い AI ラベリングシステムが必要となるフィルタリング機能の導入を示唆しているようにも聞こえます。さらに彼は、AI が提供できないものとして「真正性」そのものが、今後より希少価値を持つようになる可能性にも言及しています。
"合成コンテンツが溢れる世界では、むしろ人々は創造性や真正性を求めて、人間同士のつながりを以前よりも強く求めるようになると思います」と Mosseri は述べています。
"AI 生成のコンテンツをフィルタリングする必要はないと考えています"
しかし、同じインタビューの中でモセリ氏は「AI 生成コンテンツをフィルタリングする必要はないと思う」と述べつつ、「ユーザーにそのコンテンツが AI によるものかどうかを知らせるべきだ」とも強調しました。また、モセリ氏は以前から主張している見解を再確認しています。「偽物のメディアよりも、本物のメディアに指紋（フィンガープリント）をつける方が実用的かもしれない」という考え方です。これは、Meta が自社で信頼できる AI ラベリングシステムを開発する能力に対して自信を持っているようには聞こえません。ソーシャルプラットフォームを「シュリンプ・ジェスス」やその他の生成された脳内回転コンテンツの工場へと変える間に、十分な時間を費やしてきたはずなのに、コンテンツシールの発表はなぜか急遽行われたという印象を与えます。
この仕組みは、すでに確立されている類似の SynthID システムと比較して消費者にとって独自の利点を提供するものではなく、AI 生成コンテンツを検証するために人々がさらに一つハードルを乗り越えなければならないだけだ。むしろ OpenAI のように Google の透かし標準を採用すべきだったかもしれない。もしそうしていれば、Facebook や Instagram のユーザーにとってはより良い結果になっていたはずだ。
Eischen 氏によると、Meta はここ数年にわたりオープンソースの透かし研究に貢献してきたため、この技術を一夜で開発したわけではないという。しかし、それに見合うような使い勝手の良い消費者向け体験が提供されることを期待していたのだが。
もし Meta が独自のソリューションにこだわりたいなら、中途半端な SynthID のコピー版ではなく、少なくともより信頼性の高いものを用意して AI 透明性への本気度を証明する必要があるだろう。すでに Reuters は、Muse で生成された画像を切り取った後、Content Seal がテスト対象の半数以上を検出できなかったと報じている。
この話題や著者についてフォローすれば、パーソナライズされたホームフィードで類似記事を見たり、メール更新を受け取ったりできます。
- Jess Weatherbed
原文を表示
IIn March, Meta’s Oversight Board called on the company to “meet its public commitments and employ its own tools” to help quell the spread of deceptive generative AI content across platforms. Meta responded in July by introducing Content Seal — an invisible watermarking technology that flags images generated by the company’s new AI model. But it was basically a footnote buried in the company’s announcement for its Muse image and video generation tools.
As someone who spends a lot of time scrutinizing AI labeling systems, Content Seal doesn’t fill me with confidence. There are already more established solutions, like C2PA Content Credentials and Google’s SynthID, that Meta could have used instead of launching its own system significantly later. After digging around to figure out why Meta has launched its own system, I’m not convinced that Meta has thought this through.
By Meta’s description, Content Seal works similarly to SynthID. The watermark, invisible to human eyes, provides a “hidden provenance signal” embedded into AI-generated images that can then be scanned and flagged by a detection tool, helping online users to differentiate deepfakes from authentic content. Like SynthID, Meta also says that Content Seal watermarks remain intact and can still be detected if the image is “cropped, compressed, resized, or screenshotted.”
So, if Content Seal functionally does the same thing… why not just adopt SynthID? Meta already operates as a steering committee member of the Coalition for Content Provenance and Authenticity (C2PA) that promotes the separate Content Credentials standard *alongside* Google, so it’s shown willingness to work with others on solving the growing issue of AI detection. SynthID has also already been adopted by OpenAI, so clearly Google is also willing to open its technology up to rival AI providers in the name of improving transparency.
Content Seal has several limitations in its current state despite those similarities to Google’s system. For now, users can only detect Content Seal watermarks through a dedicated web tool that Meta is testing, meaning Meta hasn’t built those detection capabilities into its Meta AI chatbot like Google has with Gemini. It sounds like that may be in the works, however. Meta spokesperson Faith Eischen told *The Verge* that the company is “exploring ways to bring detection closer to where people encounter AI-generated content.” Given that’s where AI detection is needed most, and has been for some time, why isn’t it available at launch?
The watermark itself is also only being applied to images generated by Muse in the Meta AI app and Meta.ai website, which means online users can’t use it to detect content created by Meta’s older AI models. Support for generated video isn’t available either, though Meta says this is coming “soon.”
1/2*Here’s the information that’s displayed when Meta’s detection tool successfully flags an image that’s been made or edited using its own Muse model.* Image: Jess Weatherbed / The Verge
Meta has imposed a daily limit on how many times you can check images for Content Seal through its detection tool. Eischen said this rate limit is designed to support “normal usage” while protecting the detection system from being misused. Meta didn’t clarify what such misuse would look like — presumably, attempts to crack the system to avoid watermarked content from being detected — but Google%20and%2010%20audio%20checks%20(up%20to%203%20hours%20total)%20within%20any%2024%2Dhour%20rolling%20window.%20If%20you%20reach%20these%20limits%2C%20the%20Gemini%20app%20will%20notify%20you.) and OpenAI’s detection tools%20can%20occur.) have similar rate limitations. C2PA stands out as the only system that doesn’t cap how many times users can check content. Any limitation on detection feels counterintuitive to improving AI transparency at scale, so this feels like a missed opportunity for Meta’s system to do something better than SynthID.
On Meta’s own platforms like Facebook and Instagram that apply AI labels, Eischen said unspecified metadata “alongside Content Seal watermarking” is being used to help users identify AI-generated content. When I asked Meta if it was instructing other online platforms like TikTok and LinkedIn that scan and label AI content on how to detect Content Seal, Eischen said the company is “determined to work with our industry peers to make sure users have the best experience possible.”
That sounds like broader support for the standard is still a work in progress, which could prevent Muse-generated images from being effectively labeled outside of Meta’s own platforms. When I fed a test image I made using Meta’s Muse model into Gemini and the official C2PA detection portal, neither tool could confirm that it was AI-generated. There’s also the question of whether Content Seal can be applied to image and video files alongside SynthID and Content Credentials without interfering with those other standards. Meta didn’t provide any clarification for this on record.
“Like others, we built Content Seal natively towards our own technical specifications and products. It takes multiple approaches working together to address this across the ecosystem, and we’re glad to be contributing to that effort,” Eischen said. “We’ll have more to share about Content Seal soon.”
Given Content Seal can only detect images generated using Meta’s very latest AI model, I have to wonder what the company has been doing all this time. Meta has provided AI image generation tools since 2023, so it’s already churned out a lot of fakery that can’t be detected by its own proprietary system. It also introduced AI tags to Instagram and Facebook in 2023, which angered many photographers at the time by mistakenly labeling real photographs as “Made by AI.”
Three years on, Meta still isn’t sure about how to pitch itself as both a factory for AI content and the solution for identifying it, especially across its own platforms. Even senior leadership at Meta seems to be at a loss for what it should do next.
In an interview on Lenny Rachitsky’s podcast, Instagram head Adam Mosseri initially embraced the idea that people who dislike AI-generated content should be allowed to keep it out of their social feeds — which sounds awfully like a filtering feature that would require a reliable AI labeling system. He even suggests that authenticity itself will become more desirable as something that AI can’t provide.
”In a world where there’s an abundance of synthetic content, I actually think people are going to seek out creativity and authenticity and people more, not less,” Mosseri said.
“I don’t think we should filter out AI content”
During the same interview, however, Mosseri said “I don’t think we should filter out AI content,” while affirming that “we should let you know if content is AI content or not.” Mosseri also reiterated an opinion he’d previously expressed that it might be “more practical to fingerprint real media than fake media.” That doesn’t make Meta sound confident in its own ability to develop a viable AI labeling system. It’s had plenty of time to do so between building its social platforms into slop factories for shrimp Jesus and other generative brainrot, yet the Content Seal launch still feels like it was rushed out the door.
It offers no unique benefits for consumers over the similar, established SynthID system, and instead just creates yet another hoop that people have to jump through to verify AI content. Maybe Meta *should* have just adopted Google’s watermarking standard instead, like OpenAI has. Facebook and Instagram users may be better off if it had. Eischen tells me that Meta has been contributing open-source watermarking research for years now, so it didn’t cook this tech up overnight, but I would expect a better consumer-facing experience to show for it.
If Meta wants to stand on its own solutions instead, it’ll need more than a half-baked SynthID clone to prove it’s actually serious about AI transparency — certainly a more reliable one at least. Reuters has already found that Content Seal failed to detect more than half of the Muse-generated images it tested after they had been cropped.
Follow topics and authors from this story to see more like this in your personalized homepage feed and to receive email updates.
- Jess Weatherbed
-
-
-
-
-
関連記事
今日のまとめ
AI日報で今日の重要ニュースをまとめ読み