#prompt compression のAIニュース

Shopify、LLM システムプロンプト圧縮技術「Gisting」を発表

Shopify はシステムプロンプトを学習済みトークンに圧縮する新技術「Gisting」を導入し、推論時のレイテンシ短縮とコスト削減を実現した。