Proprietary LLM の推論トレースを抽出する手法が論文で公開

記事の3ポイント

1. 1

   暗号化された推論の漏洩メカニズム

   主要 LLM プロバイダーはクライアントに暗号化された思考ブロックを返すが、同一ファミリー内のモデル間で同じ暗号鍵が使用されている脆弱性が存在する。

2. 2

   弱体モデルを用いた転送攻撃の実証

   研究者は強力なモデルから得た暗号化された推論ブロックを、同一ファミリーのより弱いモデルに再入力することで、そのモデルを脱獄させ、元の推論を平文で復元することに成功した。

3. 3

   プロバイダーによる対応と現状

   報告を受けたすべてのモデルプロバイダーが脆弱性を認識し、同様の攻撃を再現できなくなったことから、現在は修正済みであると示唆されている。