AI モデルの内部思考抽出新手法が判明

記事の3ポイント

1. 1

   推論情報の抽出脆弱性の発見

   チュービンゲン大学のAlexander Panfilov氏らにより、主要なAIモデルが複雑な問題解決時に内部で行う「思考」プロセスを外部から抽出できる手法が開発された。

2. 2

   中国製モデルによる推論蒸留の疑い

   Moonshot AIのKimi K3が、Claude Opus 4.8やGPT 5.6 Solの隠された推論トレースと著しく類似した出力を示すことから、米国モデルからの推論情報蒸留が行われた可能性が示唆された。

3. 3

   機密情報の漏洩リスク

   この脆弱性を利用するとパスワードやAPIキーなどの個人情報がモデルの内部推論から回復可能となるが、同社は既にこの欠陥を修正したと発表している。