Anthropic、Claude の生成テキストに AI 識別用ウォーターマーク導入へ

8 月 11 日、Anthropic は今後の Claude モデルが生成するテキストに、AI 生成であることを示す「ウォーターマーク」を埋め込むと発表しました。同社だけがこの動きをしているわけではありません。Google も Gemini モデルの出力に独自のテキストウォーターマークを採用しており、Anthropic の方式はこれに基づいています。OpenAI は現時点でテキストウォーターマークを導入していませんが、将来的には導入する計画です。

こうしたウォーターマーク技術の急速な普及は、欧州連合（EU）の「AI 法」への対応の一環でもあります。同法では 2026 年 8 月 2 日以降にリリースされる AI モデルに対し、ウォーターマークの埋め込みを義務付けています。また、誤解を招く操作を目的とした生成コンテンツの拡散を防ぐための他の規制案も進行中です。しかし、これらの新ルールは、単に最良の結果を求めている AI ユーザーにとって何らかのコストをもたらす可能性があります。

AI ウォーターマークはテキストだけでなく、画像や音声、動画など多様なメディア形式にも適用されます。EU の AI 法でもこれらが対象となっています。メディア向けのウォーターマーク技術は何年も前から実用化されており、AI 生成コンテンツの検出における包括的な解決策としての有効性については議論が続くものの、検知率はすでに 99% を超えるケースもあります。OpenAI、Google、Meta などが既に画像や動画へのウォーターマークを実装済みです（Anthropic は画像生成モデルを提供していません）。

しかし、テキストへの透かしはあまり頻繁に導入されておらず、AI モデルの回答品質を損なうことなく機能するかどうかについて懐疑的な声も根強くあります。Markdown 言語の共同開発者であり、多くの技術記事を手がけるジョン・グルバー氏は、この透かしを「文章作成への歪み」と呼び、Anthropic が主張する「透かしはテキストの意味や品質を変えない」という見解に異議を唱えています。彼は画像には数百万ものピクセルが含まれるのに対し、テキストによる回答は数十語から数百語程度で構成されることが多く、検知可能でありながらユーザー体験を阻害しない形で AI の出力を調整できる余地が、テキストでは遥かに限られていると指摘しています。

一方、ベクター研究所のポスドク研究員であり、2023 年にテキスト透かし手法を最初に記述した論文の共著者であるジョン・キルケンバウアー氏はこれに反対します。「変化がなければ透かしは検出できない。これは非常に基本的な点だ」と彼は語ります。「重要なのは、実用上の利便性が損なわれない限り、厳密に元の分布と一致していなくても気にするかどうかなのです。」

現実問題として、この議論の核心は「有用性（utility）」という言葉にあります。AI 生成テキストへの透かしは、実際にそれを利用する人の体験を有意に低下させるのでしょうか。その答えはまだ論争の的となっています。

AI テキスト透かしの仕組み

「ウォーターマーク」という用語はあまりにも身近なため、AI に適用された際の仕組みについて誤解を招きがちです。テキストにおけるウォーターマークは、メタデータや不可視文字のようなものではありません。それよりもはるかに繊細なものです。

具体的な手法によって詳細は異なりますが、特定の検出キーにアクセスできない限り、人間はもちろん、多くの場合コンピュータでもテキストのウォーターマークを検知することは不可能です。その理由を理解するには、大規模言語モデル（LLM）がどのように動作するかを知る必要があります。

LLM は、プロンプトに対する応答の各ステップで、次に出現しうるすべての単語に対して確率を算出します。（以降、便宜上「単語」という表現は「トークン」とも置き換えて使います。ただしトークンは数値や句読点なども表すためです）。最も可能性の高い単語には 40% の確率が割り当てられ、妥当な代替案には 10%、ありえないものにはごくわずかな確率が付与されます。モデルはこれらの確率を重みとして、ランダムに単語を選択します。

「変化がなければ、ウォーターマークを検知することはできません。これは非常に基本的なポイントです。」——ジョン・キルヒェンバウアー（Vector Institute）

この仕組みを利用すれば、単語の選択方法に微妙な変化を加えることで、テキストにウォーターマークを隠すことが可能になります。

キルヒェンバウアーらによる 2023 年の論文は、テキストウォーターマークの実装方法を初めて示した事例の一つであり、現在も最も広く引用されている手法です。この研究では、単語を「レッドリスト」と「グリーンリスト」に分類するウォーターマークを提案しています。レッドリストの単語はそのまま使用されますが、グリーンリストの単語はわずかに出現確率が高くなるように調整されます。

キルヒェンバウアー氏はこう説明します。「この修正された分布からサンプリングすれば、個々のトークンの選択が必ずしもその優先セットから選ばれるわけではありません。しかし、多くのサンプルを繰り返すことで、重み付けされたサブセットからの単語を選択する確率が高まります」。

テキストウォーターマークは使用される単語の選び方に埋め込まれるため、人間には実質的に検出できません。キルヒェンバウアーらの研究では、約 200 トークンの応答において、検出率は 98.4% で偽陽性はゼロでした。また、単語確率のパターンが埋め込まれているため、単純な言い換え程度ではウォーターマークを隠すことはできません。論文によると、長い応答からウォーターマークを完全に除去するには、約四分の一以上の単語を書き換える必要があります。

ウォーターマークは AI 生成テキストの質を低下させるのか？

AI テキストウォーターマークは人間には見えないように設計されていますが、定義上、AI が生成したテキスト内の単語のパターンに影響を与えます。このアルゴリズムによる介入こそが、グリューバー氏のような批判者が懸念する点です。彼らは、ウォーターマークが出力全体の質を低下させるのではないかと危惧しています。

テキストへのウォーターマーキングが品質に影響を与えないという最も強力な証拠は、2024年にGoogleのチームが発表した論文から得られています。同チームは「SynthID-Text」と呼ばれる独自のウォーターマーキング手法を導入しました。Anthropicの手法もこのSynthID-Textをベースにしていますが、Anthropic側では具体的な改変内容については明かしていません。

SynthID-Textが品質に影響しないことを示すため、Googleの研究チームはGeminiユーザーからの問い合わせをランダムに振り分け、一部にはウォーターマーク付きのモデル、他方には非搭載のモデルを使用しました。そして、出力に対する全体的なユーザーフィードバックを比較した結果、2,000万件以上の回答において、両者の間に有意な差は見られませんでした。

それでもなお、AI生成コンテンツへのウォーターマーキングが品質に全く影響しないという点について懐疑的な研究者もいます。その理由は、実装を困難にする特殊なケースが存在するからです。

MetaでAI研究科学者を務め、AIテキストの検出可能性に関する広く引用される論文の共著者でもあるVinu Sankar Sadasivan氏は、潜在的な単語選択肢が少ない場合にウォーターマークが特に機能しにくいと指摘しています。「20語程度のツイートであれば、検出精度を高めるには50〜60%の単語を『グリーンリスト』から選ばなければなりません」と同氏は説明します。AIによって生成された基本的なPython関数においても、ウォーターマークの強度とモデル回答の品質の間には同様のジレンマが生じます。

「ここが、私がアンソロピックのいくつかのプレスリリースと意見が異なる点です。彼らは『品質に一切変化がない』と言っていますが」とサダシヴァンは語ります。彼は、困難な状況でも回答の品質を維持するために、ウォーターマークの強度を動的に増減させることは可能だと説明します。しかし、その一方でウォーターマークの強度も弱まってしまう可能性があります。Google の SynthID-Text 論文には、応答内のトークン数に対する検出率をプロットしたグラフで、この現象が具体例として示されています。最良のシナリオでは検出率は最大 95% に達しましたが、短い回答では 50% を下回りました。

アンソロピックからの追加情報がない限り、同社がいかにして AI の回答品質とウォーターマークの強度の間でバランスを取っているのかを把握するのは困難です。アンソロピックは本記事のために追加情報を提供することを拒否しました。

AI テキストウォーターマークのトレードオフに関する議論

AI テキストウォーターマークをめぐる論争は、単にその機能性がどうなのかという問題だけでなく、明確な生成 AI 表示との引き換えとしてどのようなトレードオフが許容されるべきかという点にも及びます。グルーバーの立場は、テキストを改変することは許されないというものです。なぜなら、それは本来あるべき AI モデルの出力と異なるものにしてしまうからです。一方、EU の AI 法では、人々が生成 AI の文章を読んでいることを知らせるための改変であれば、一部は許容されると示唆しています。

「20 語のツイートであれば、検出精度を高めるには 50〜60% の単語が『グリーンリスト』に含まれている必要があります。」——Meta の Vinu Sankar Sadasivan

さらに状況を複雑にしているのは、AI 研究者らがテキストウォーターマークを、生成された AI テキストの個々の事例にラベルを付ける以外の目的でも活用し始めている点です。特に、大規模なデータフローを追跡する手段としてウォーターマークが注目されています。

Kirchenbauer が共同執筆した 2026 年の論文によると、ウォーターマーク付きテキストで訓練された AI モデルは、その出力にも同様のウォーターマークを付与することが示されました。つまり、コンテンツ所有者が公開前に自らの文書にウォーターマークを施しておけば、その痕跡を統計的証拠として利用し、自社のテキストがモデルの学習データに含まれてしまったことを証明できるのです。

逆に、新しい AI モデルを訓練する企業は、テキストウォーターマークを活用して、過去のバージョンで生成されたコンテンツを学習データから除外することも可能です。こうしたガードレール（安全装置）は、AI モデルが自身の誤りを繰り返し増幅してしまう「モデル崩壊」を防ぐのに役立ちます。

Kirchenbauer によれば、これらの広範な懸念はテキストウォーターマークをめぐる議論そのものを変えています。「目的は必ずしも『AI を使った』という非難ではありません。データの出所追跡やモデルの再利用など、より本質的な課題へと焦点が移っています」と彼は語ります。「テキストウォーターマークは、コンテンツに付随する一般的なメタデータとして機能します。堅牢性にはばらつきがありますが、コンテンツがどこへ流れていくかを追跡できる点で極めて有用です。」