独自 LLM の推論過程を盗む手法が研究発表

記事の3ポイント

1. 1

   推論トレースの暗号化脆弱性の特定

   主要 LLM プロバイダーがクライアントに返す暗号化された推論ブロックは、セッションやユーザー、モデル間で互換性があり、異なる弱いモデルへ注入することで平文として復号・出力させる攻撃が可能である。

2. 2

   反ディスティレーションメカニズムの回避

   この脆弱性を悪用することで、直接 jailbreak することなく、高機能な proprietary モデルの推論プロセスを抽出し、知的財産や学習データの流出を防ぐ仕組みを迂回できる。

3. 3

   個人識別情報と認証情報の大規模漏洩

   公開リポジトリから収集した 315,320 の推論ブロックを解析した結果、367 件の個人情報（PII）と 182 件の認証情報が復号され、開発者の不注意によるデータ漏洩リスクが実証された。