AI 学習に作品無断使用された写真家が保護ツール開発へ協力

2023 年初以来、写真家の張 Jingna（ジンナ・チャン）氏と少人数のボランティアチームが、画像共有およびポートフォリオアプリ「Cara」の運営に尽力してきました。これまでに約 150 万人のアーティストがこのプラットフォームを利用しています。なぜ彼らはここを選んだのでしょうか？その理由は、AI モデルの学習のために無断で作品が使われることへの反対と、ビッグテックによる搾取を避けつつ自らの作品を発信したいという共通の願いにあります。

しかし、Cara は AI 生成画像のフィルタリングや保護機能を提供しています。例えば「Glaze」は、スクレイパーによって収集された画像のスタイルをマスクし、AI の模倣を妨害するためのツールです。それでも、スクレイピングそのものを完全に防ぐことはほぼ不可能です。そして今月、8 月 13 日から始まる一連の事象で、Cara は大規模なスクレイピング攻撃を 3 回受けました。これによりサーバー費用が急騰し、Instagram などから移ってきたクリエイターたちは不安を抱いています。なぜなら、これらのプラットフォームではすべてのコンテンツがメタ（Meta）によって学習データとして明示的に利用可能になっているからです。

こうした事件が明るみに出たのは、責任者が 1200 万件の作品を含む 12 テラバイトのアーカイブを、Cara の公開画像ライブラリほぼ全部に相当するものを Reddit の「r/DefendingAIArt」サブレッドに投稿した時でした。「面白いプロジェクトでした」と、その投稿者である MandarinDawnPoppy994 は、後に削除された投稿で書いています。このプロセスは 10 ドル未満の費用しかかからなかったと付け加えました。

「私たちはユーザーが私たちにタグを付けてくれたことで初めて知りました」と Zhang は WIRED に語ります。スクレイパー（データ収集者）は Reddit で「自慢げに、他の人にも数据集を使って何かやろうと呼びかけていた」ためです。これにより AI 関連フォーラムでは彼の行為の倫理について激しい議論が巻き起こりました。「これは標的にされたもので、非常に傷つくことだ」と Zhang は付け加えます。そして「法律はこうしたデータ収集に対する保護に追いついていない」と指摘し、スクレイパー側が技術的には合法だと正当化できる場合が多いと説明しました（Zhang はまた、Stability AI や Midjourney などの企業を相手取る視覚芸術家による集団訴訟の一つと、Google を相手取るもう一つの訴訟に参加しています。両方とも、これらの企業の画像生成ツールが著作権のある作品でトレーニングされたことを主張するものです）。

しかし、驚くべき展開として、Cara のすべてのアート作品を入手した人物は、この stunt に後悔し、Zhang と協力して芸術家を守る新しいオープンソースツールの開発に合意することになります。

その間、残念ながら他のスクレイパーはカラの脆弱性とリソースの不足につけ込み続けました。AI 推進派の一部はカラへの攻撃に反対しましたが、MandarinDawnPoppy994 に勇気づけられた数人は、張氏が「模倣」攻撃と呼ぶ行為を実行しました。

別のスクレイパーは、カラから約 850 万リンクを抽出し、ユーザー名やタイトル、タグなどのメタデータも取得して Hugging Face（AI 開発者向けプラットフォーム）にアップロードしました。Hugging Face は削除要請の殺到に対し、「CaptiveDreamer」というユーザーに対して個人メタデータの削除通知を出すことはできるとしつつも、URL の削除はできないと回答しました。その理由は「当サイトに作品のコピーをホストしておらず、リンク先はアーティストがカラに公開したコピーへのものだからです」というものです。同社は結論として、「同じ根拠によるさらなる著作権報告を行っても、この結果は変わらない」と述べています。

ついに 8 月 22 日、3 人目のスクレイパーが、Cara 氏から 12 万 3000 枚の画像と、個人情報を含むテキスト投稿やユーザープロフィール情報を取得し、Academic Torrents というサイトにすべてを公開しました。その後、張氏は法的費用を募るための GoFundMe キャンペーンを開始し、目標額を 12 万ドルと設定しました。この資金は、サイバー法や著作権法を通じて Cara 氏を守るあらゆる戦略を検討するために使われるとしています。木曜日の時点で、すでに 10 万ドル以上が集まり、Cara 氏は現在も追加の法的支援を積極的に求めています。