LLM に話させず、内部状態を直接プローブせよ（8 分読了）

TLDR AI は、大規模言語モデルがトークンを生成する前に内部状態に答えが存在することを示し、最後のプロンプトトークンの隠れ状態を抽出して小型ニューラルネットワークに入力することで、モデルを英語で記述された分類器として動作させる手法を紹介した。