メタ、独自AI検出システム導入へ

3 月、Meta の オーバーサイトボード は同社に対し、「公約を果たし、独自のツールを活用して、プラットフォーム全体に広がる欺瞞的な生成 AI コンテンツの拡散を食い止めよ」と要請しました。これに対して Meta は 7 月、コンテンツシール を発表し、同社の新しい AI モデルが生成した画像に付与する不可視の透かし技術として導入しました。しかし、これは Muse の画像・動画生成ツールに関する発表の中で、まるで注釈のように埋もれてしまったに過ぎません。

AI ラベリングシステムを専門に分析している立場からすると、コンテンツシールにはあまり安心感が湧きません。すでに確立された解決策として、[C2PA コンテンツ認証] や Google の SynthID といった選択肢が用意されています。Meta はこれらを活用すべきだったはずです。にもかかわらず、独自のシステムを大幅に遅れて立ち上げた理由を探ってみたところ、Meta がこの件を十分に検討したとは到底思えません。

Meta が発表している「Content Seal」は、SynthID と同様の仕組みを採用しています。人間の目には見えない透かしを AI 生成画像に埋め込み、検出ツールでスキャンしてフラグを立てることで、「隠れた真正性のシグナル」として機能します。これにより、ユーザーはディープフェイクと本物のコンテンツを見分けることができます。SynthID と同様、Meta は「切り抜き」「圧縮」「リサイズ」「スクリーンショット」が行われた場合でも、透かしが失われず検出可能だと主張しています。

では、Content Seal が SynthID と同じ機能を果たすのであれば、なぜ SynthID をそのまま採用しないのでしょうか。実は Meta は、Google と並んで「コンテンツ真正性と認証のための連合（C2PA）」のステアリングコミッティメンバーとして活動しており、AI 検出という課題解決のために他社と連携する姿勢を示しています。また、SynthID はすでに OpenAI でも導入されており、透明性向上の名の下に競合他社にも技術を開放しようとする Google の姿勢も明確です。

Content Seal には Google のシステムと類似点があるものの、現状ではいくつかの制限があります。現時点では、ユーザーは Meta がテスト中の専用 Web ツール a dedicated web tool を通じてのみ Content Seal の透かしを検出できます。つまり、Google が Gemini で実現しているような検出機能を Meta AI チャットボットに組み込んでいないのです。ただし、この機能の開発は進んでいるようです。Meta の広報担当者である Faith Eischen 氏は『The Verge』に対し、「AI 生成コンテンツが最も多く見られる場所へ検出機能を近づける方法を模索中だ」と述べています。AI 検出が必要とされるのはまさにその場所で、かつ長年そう言われ続けてきたにもかかわらず、なぜローンチ時には提供されていないのでしょうか。

また、透かし自体は Meta AI アプリおよび Meta.ai ウェブサイト上で Muse が生成した画像にのみ適用されています。つまり、オンラインユーザーが Meta の旧世代の AI モデルによって作成されたコンテンツを検出するためにこの機能を利用することはできません。動画生成への対応も現時点では提供されていませんが、Meta によるとこれは「まもなく」実装される予定です。

メタは、自社の生成モデル「Muse」によって作成または編集された画像を、同社が開発した検出ツールが正常に検知した場合に表示される情報があります。

もしコンテンツシールのマーカが見つからない場合に表示されるメッセージです。ただし、これは画像が AI 生成ではないことを意味するものではありません。

1/2*Meta の検出ツールが、同社の Muse モデルを用いて作成または編集された画像を正常に検出した際に表示される情報です。画像：Jess Weatherbed / The Verge

Meta は、コンテンツシール（Content Seal）の画像確認回数を検出ツールを通じて1 日あたりの利用制限に設定しました。Eischen 氏はこのレート制限が、「通常の使用」を支援しつつ、検出システムが不正に悪用されるのを防ぐために設けられたと説明しています。

Meta は具体的にどのような行為が悪用にあたるのかについては明言していませんが、おそらくは、ウォーターマーク付きのコンテンツを検出されないようにする試み（Google SynthID の逆解析）を想定しているのでしょう。一方、Google%20and%2010%20audio%20checks%20(up%20to%203%20hours%20total)%20within%20any%2024-D-hour%20rolling%20window.%20If%20you%20reach%20these%20limits%2C%20the%20Gemini%20app%20will%20notify%20you.) や OpenAI%20can%20occur.) の検出ツールも同様の利用制限を設けています。

C2PA だけが、ユーザーがコンテンツを確認する回数を上限で制限していない唯一のシステムです。AI の透明性を大規模に高めるためには、検出回数に制限を設けることは直感に反するように思えます。Meta のシステムが SynthID よりも優れた対応ができるはずだったのに、これは機会損失だったと言えるでしょう。

Meta の Eischen は、AI ラベルを付与する Facebook や Instagram といった同社のプラットフォームにおいて、未詳のメタデータと「Content Seal」の透かしを組み合わせて使用し、ユーザーが生成された AI コンテンツを識別できるよう支援していると語りました。私は Meta に、TikTok や LinkedIn など、AI コンテンツを検知・ラベル付けする他社プラットフォームに対し、Content Seal の検出方法を指導しているか尋ねましたが、Eischen は「業界の仲間たちと協力し、ユーザーが可能な限り最高の体験を得られるよう努めている」と回答しました。

これは標準化への広範な支持がまだ途上にあることを示唆しており、Meta 以外のプラットフォームでは Muse が生成した画像を効果的にラベル付けできない可能性もあります。実際に、私が Meta の Muse モデルでテスト用画像を作成し、Gemini と公式の C2PA 検出ポータルに読み込ませたところ、いずれも AI 生成であることを確認できませんでした。また、SynthID や Content Credentials など他の標準規格と共存しながら、画像や動画ファイルにも Content Seal を適用できるかどうかという点についても疑問が残ります。Meta はこれらについて公式見解を示していません。

Eischen は「他社同様、Content Seal は自社の技術仕様や製品に合わせたネイティブな設計で構築しました。この課題を生態系全体で解決するには複数のアプローチが連携する必要がありますし、その取り組みへの貢献ができることを嬉しく思います」と述べています。「Content Seal については近日中にもっと詳しくお伝えできる予定です。」

Meta の「Content Seal」は、同社が最も最新の AI モデルを使って生成された画像のみを検出できる仕組みです。では、この間 Meta は一体何をしてきたのかと疑問を持たざるを得ません。Meta は 2023 年から AI 画像生成ツールを提供しており、すでに自社の独自システムでは検出できない偽物が大量に作られてしまっています。

また、2023 年には Instagram と Facebook に AI タグの導入も始めましたが、これは当時多くの写真家から批判を浴びました。実際には人間が撮影した写真を誤って「AI 制作」と表示してしまったからです。

それから 3 年経った今でも、Meta は「AI コンテンツを生産する工場であること」と「そのコンテンツを検出する解決策を提供する企業であること」の両方をどうアピールすべきか、特に自社のプラットフォーム上ではまだ確信が持てないようです。社内の最高経営層でさえ、次に何をすべきか迷っている状態です。

Lenny Rachitsky のポッドキャストでのインタビューにおいて、Instagram の責任者である Adam Mosseri は当初、AI 生成コンテンツを好まないユーザーがそれをフィードから除外できるようにするべきだという考えに賛同していました。これは、信頼性の高い AI ラベリングシステムが必要となるフィルタリング機能の導入を示唆しているようにも聞こえます。さらに彼は、AI が提供できないものとして「真正性」そのものが、今後より希少価値を持つようになる可能性にも言及しています。

"合成コンテンツが溢れる世界では、むしろ人々は創造性や真正性を求めて、人間同士のつながりを以前よりも強く求めるようになると思います」と Mosseri は述べています。

"AI 生成のコンテンツをフィルタリングする必要はないと考えています"

しかし、同じインタビューの中でモセリ氏は「AI 生成コンテンツをフィルタリングする必要はないと思う」と述べつつ、「ユーザーにそのコンテンツが AI によるものかどうかを知らせるべきだ」とも強調しました。また、モセリ氏は以前から主張している見解を再確認しています。「偽物のメディアよりも、本物のメディアに指紋（フィンガープリント）をつける方が実用的かもしれない」という考え方です。これは、Meta が自社で信頼できる AI ラベリングシステムを開発する能力に対して自信を持っているようには聞こえません。ソーシャルプラットフォームを「シュリンプ・ジェスス」やその他の生成された脳内回転コンテンツの工場へと変える間に、十分な時間を費やしてきたはずなのに、コンテンツシールの発表はなぜか急遽行われたという印象を与えます。

reiterated an opinion

fingerprint real media

shrimp Jesus

generative brainrot

この仕組みは、すでに確立されている類似の SynthID システムと比較して消費者にとって独自の利点を提供するものではなく、AI 生成コンテンツを検証するために人々がさらに一つハードルを乗り越えなければならないだけだ。むしろ OpenAI のように Google の透かし標準を採用すべきだったかもしれない。もしそうしていれば、Facebook や Instagram のユーザーにとってはより良い結果になっていたはずだ。

Eischen 氏によると、Meta はここ数年にわたりオープンソースの透かし研究に貢献してきたため、この技術を一夜で開発したわけではないという。しかし、それに見合うような使い勝手の良い消費者向け体験が提供されることを期待していたのだが。

もし Meta が独自のソリューションにこだわりたいなら、中途半端な SynthID のコピー版ではなく、少なくともより信頼性の高いものを用意して AI 透明性への本気度を証明する必要があるだろう。すでに Reuters は、Muse で生成された画像を切り取った後、Content Seal がテスト対象の半数以上を検出できなかったと報じている。