AI テキスト検出器 Pangram CTO、ガードレールが表現を狭めると指摘

記事の3ポイント

1. 1

   学習後ガードレールによる表現の制限

   ChatGPT や Claude などのシステムは危険な出力を避けるための行動ルールを学習するため、表現範囲が狭まり「モード崩壊」が発生する。

2. 2

   ベースモデルと微調整モデルの違い

   学習前のベースモデルや特定の作家・コミュニティのテキストのみで微調整されたモデルは多様性が高く、Pangram の検出ではフラグが立たない場合がある。

3. 3

   ウォーターマーカーの限界と有効性

   表現の多様性が回復しても、AI 生成テキストに埋め込まれたウォーターマークは常に検出可能であり、ベースモデルであっても例外ではない。