生成 AI の違法コンテンツから子供を守る新手法が開発される

記事の3ポイント

1. 1

   非生成型によるCSAM検出手法の開発

   MIT の研究チームは、違法コンテンツを直接生成するリスクを回避するため、モデルが CSAM を生成できるかどうかを検出するために内部表現（隠れた表現）を分析する新しい監査アプローチを開発した。

2. 2

   100%の精度で有害なモデル変種を特定

   この手法を実験的にテストした結果、CSAM 生成に特化されたモデルの変種を 100 パーセントの精度で識別することが可能であり、既存の盲点を解消する成果となった。

3. 3

   プラットフォームと法執行機関への応用

   この技術はオープンソースモデルをホストするプラットフォームが不安全なモデルを即座にフラグ付けして削除したり、アップロードを防ぐために利用でき、法執行機関によるテスト手段としても機能する。