Hugging Face、コンテキスト圧縮技術「LatentPress」を発表

記事の3ポイント

1. 1

   非可読形式でのコンテキスト圧縮の実現

   LatentPress は、従来の人間が読むためのテキストや画像として復元する必要のある手法とは異なり、凍結されたデコーダーが入力埋め込みインターフェースを通じて直接読み取れる連続メモリトークンへ変換する。

2. 2

   軽量なトレーニングと高い圧縮率

   この技術はデコーダーの 0.1% に相当するアダプター（420 万〜2620 万パラメータ）のみを学習させることで、4 倍から 16 倍の圧縮を実現している。

3. 3

   既存手法を上回る精度と速度

   LongMemEval および LongBench-QA の評価において、LatentPress はテキスト要約や OCR ベースの圧縮を凌駕する精度を達成し、記述処理も従来の数倍から 10 倍高速である。