学習されたサポート関数を用いた最大内積探索の費用平準化

最大内積探索（MIPS）は機械学習における重要なサブルーチンであり、データベース内のベクトル（キー）の中から、与えられたクエリに最もよく適合するものを見つけることを要求します。我々は、アモルタイズド MIPS を提案します。これは回帰ベースのアプローチで、既知の分布から得られるクエリに対して固定されたキーデータベースで MIPS を繰り返し解くコストを相殺するために、ニューラルネットワークを訓練して MIPS の解を直接予測するものです。我々の重要な洞察は、MIPS 値関数がキーの集合のサポート関数（support function）であるという点です。これはよく研究されている凸関数であり、その勾配が最適キーを与えます。この…